News Jetzt auch für Endkunden: Radeon AI Pro R9700 mit 32 GB nächste Woche im Handel

Wen es interessiert:
 
blackiwid schrieb:
irgendwie drehen wir uns im Kreis, du sagst was du glaubst und ich was ich glaube. Egal was ich schreibe du scheinst wenig/nichts davon auf zu nehmen.
Das wollte ich auch schon schreiben ;-)
blackiwid schrieb:
Finde die Diskussion merkwürdig zum einen ist die Hälfte Diskussion über Spekulationen, zum anderen juckt mich ehrlich gesagt Notebooks nur am Rande, und auch 1000-3000 Euro karten wo du offenbar lieber kaufst jucken mir auch relativ wenig.
Hab ich nie gesagt. Ich zahle gern einen angemessen Preis für ein gutes Produkt.
Ich schrieb über diese 32GB rx9070XT, um die es hier geht. Du schreibst ständig über kommende Produkte. Ich habe gelernt Dinge zu bewerten, wenn sie da sind.
blackiwid schrieb:
Wir werden sehen egal welche Meinungen / Vorhersagen sich wie bestätigen oder anders ablaufen was passiert, für mich war diese Generation die Reißleine gezogen, ja AMD hätte auch bei schlechtem Verlauf der Generation weiter GPUs verkauft, aber es wäre dann irgendwann zu sowas wie Intel verkommen, man hat es noch weil man es für Konsolen braucht und IGPs, ansonsten würde man den Markt verlassen...
Märkte zu verlassen ist einfach, in Märkte reinzukommen dagegen extrem schwer.

Einmal verlorene Stammkunden kommen oft nicht mehr zurück. Das kennt jeder Hersteller.

Du hast dann ja noch sehr ausführlich zusammengefasst, was Du schon geschrieben hast.
Aber was hält AMD denn davon ab, ihren einen (guten!) Chip, den sie jetzt haben, selektiert als mobile zu bringen? Was hält sie davon ab, wenigstens diese 32GB Karte als Gamingkarte den Partnern anzubieten? Es kostet sie exakt nichts. Die selektieren die Chips doch sowieso und die 32GB Karte gibt es doch sowieso.

Sie tun es einfach nicht. Und es ist mir egal warum. Sie könnten es mit einem Handstreich und tun es nicht. Und das enttäuscht mich. Und ich glaube ich bin nicht der einzige. Darum ging es mir.
 
Wie sind denn die Hersteller-Umsetzungen zu bewerten? Sie sehen alle gleich aus, sind innen aber nicht identisch, wie zumindest der Lüfter zeigt. ASRock nennt z. B. Honeywell PTM7950 für den Wärmeübergang, andere nicht, wobei das wohl bei noch mehr Herstellern (ganz pauschal für alle höherwertigeren Karten) verwendet werden soll.

Hat jemand etwas zu den Unterschieden gefunden? Welche Karte würdet Ihr nehmen?
 
lazsniper schrieb:
das ganze bildgebende ai zeug ist halt leider nur auf cuda ausgelegt. klar gibts workarounds, aber es wird niemals vernünftig laufen mit amd karten. es gibt viel zu schnell updates, als dass man hinterherkommen würde mit auf amd anpassen.
Daher ist meine 6800XT durch eine 4070ti super, und jetzt durch eine 5090 ersetzt worden. Für Spiele ist die 6800XT immer noch super.
 
  • Gefällt mir
Reaktionen: lazsniper
C0r3 schrieb:
Daher ist meine 6800XT durch eine 4070ti super, und jetzt durch eine 5090 ersetzt worden. Für Spiele ist die 6800XT immer noch super.
richtige entscheidung :) ! ich hätt auch gerne ne rtx 6000 pro, oder diese nvidia dgx station - aber dazu muss das verhältnis verdienst durch ki zu anschaffungspreis noch etwas nach oben geschraubt werden :)
 
ghecko schrieb:
Stand in diesem Ex-Twitter Post nicht was, dass das mit dem Pro GPUs gehen soll?
Oder was meinen die mit "brings scalable multi-GPU Performance"?
Dann hätte man mit 2 Karten schon 64GB VRAM.
Naja ist kompliziert. Weil du brauchst für viele AI workloads nen gemeinsamen Speicherpool. Man kann auch alles Quantisierung und auslagen, aber das bremst dann um potenzen....

Deshalb soll für viele RTX 3090, die letzte consumer gpu mit nem NV link, der geheimtip für AI Entusiasten sein. So kommt man für knap 2k, auf 50 Token, was etwas dem entspricht was ein Apple M3 mit 128 gb infinit oder auch der würfel von NV auf die Destop schiene bringt. Aber dann halt für 4-5k. Jetzt weiß auch jeder warum consumer GPUs speicherkrüppel sein Müssen und man den NV link gestrichen hat.

Aber du hast recht, oder besser köntest recht haben. Grok meinte die beiden Pro GPUs support doch Pooling... aber halt kein echtes "Hardware Poling" unterschied performance, aber auch struktur.

1761753693208.png



Aber noch genauer kann ich dir es leider noch nicht sagen. Ich suche ja selber noch nen günstigen und bezahlbaren einstieg in diese Welt. Aber angeblich soll das 50-70 % leistung kosten ..... was schon ordentlich ist... wen ma es der schon paar Jahre alten 3090 gegenüberstellt... Und angeblich laut Grok, soll dann manches auch gar nicht mehr gehen. Angeblich!

1761754130756.png


wobei sich das mit den preisen vielicht auch wieder akkommuliert. den ne 3090 ist halt auch nicht umsonst... wen also die dinge doch "Pooling" unterstützen, und zwar so das es mit allem kompatibel ist, um so besser.
 
Zuletzt bearbeitet:
lynx007 schrieb:
Aber du hast recht, oder besser köntest recht haben. Grok meinte die beiden Pro GPUs support doch Pooling... aber halt kein echtes "Hardware Poling" unterschied performance, aber auch struktur.
Also beim oben verlinkten Video von L1 Tech hat er mit zwei GPUs 64GB für LLMs nutzen können und er meinte, das die Bandbreite zwischen den Karten hier noch keine Probleme machen würde laut seinen Benchmarks. 2 9700 Pro agieren wohl auf dem Level einer 5090, nur das eben doppelt so große Modelle in den VRAM passen.
 
lynx007 schrieb:
Naja, diesen Pseudo-"Geheimtipp" nennt man auch "Lotto spielen", weil gerade diese gebrauchten Karten gerne nach 3 Monaten kaputt gehen. Vorher wurden sie durch intensives Mining geprügelt, wozu der Vorbesitzer natürlich eine andere Geschichte erzählt. Das liest man sehr oft, zusammen mit dem Kommentar "Ich weiß das aus eigener Erfahrung, mir sind selbst zwei kaputt gegangen". Dass diese 3090er vor 5 Jahren nicht für den "gelegentlichen Einsatz" gekauft wurden, ist angesichts der Preislage auch klar.

Außerdem hat der Verkäufer an zwei Punkten einen Wissensvorsprung: er weiß, dass die Karte nicht mehr allzu lange leben wird. Und er berücksichtigt mehr als die meisten Käufer, dass vom Treiber-Support auch schon 5 Jahre abgelaufen sind. In diesem sich schnell ändernden Feld wird es ohne Treibersupport schwierig.
 
Zuletzt bearbeitet:
Für alle die auf die Karte scheißen weil es irgendwelche komischen uralt Intel Karten mit 32gb billiger gibt (ohne Grafikanschlüsse) oder sonst was hier schneidet die Karte sehr gut ab:

https://www.phoronix.com/review/amd-radeon-ai-pro-r9700

Scheint also doch nicht so ne Luftnummer quasi zum halben Preis schlagen 2 kombiniert die Nvidia Konkurrenz mit LLMs. Und es ist ne Workstation Karte da braucht man wohl auch Grafik Anschlüsse daher verbietet sich der Vergleich zu Karten ohne das. Und natürlich ists auch nicht gerichtet an Spieler, wobei sich sicher der eine oder andere es trotzdem dafür holt, würde mich mal nicht wundern.
 
"Naja, diesen Pseudo-"Geheimtipp" nennt man auch "Lotto spielen", weil gerade diese gebrauchten Karten gerne nach 3 Monaten kaputt gehen."


Gibt sicher auch anbieter die Gernalüberholt und Garantie anbieten. Der Preisabstand zwischen neu und gebraucht wäre nicht so niedrig, wen jetzt einem jede zweite GPU direkt nach dem auspacken um die Ohren fliegen würde. Aber ich verstehe schon was du meinst. Was ist wen? Und oft ist das problem weniger das Geld, als der ganze ärger drummer herum.

Für mich ist dieses "Schnäpchen" ohnehin nicht erreichbar. Weil du braust ja dann wiederum 2 (nicht 3, wie heise korregiert hat, NV link geht nur mit 2 GPUs), dann noch nen Workstationboard mit vollen pcei Lanes, plus CPU und das zieht auch Saft aus der Dose. Aber du hast halt die Leistung mit 2,5k die man sonst von NV, Apple nur für 5k bekommt. Was auch wieder krasses Preisgefälle ist. Wobei mich auch der Unterschied der Stromrechnung interesseieren würde, wen du das dann auch Profesionell verwendest und 24/7, 360 durchlaufen lässt. :evillol:

Aber hätt ich die Kohle würde ich mir das Risiko wohl schon geben, oder halt noch mal bisl etwas auf den Preis auf der 3090 draufschlagen lassen.... Aber ich werde wohl erst mit winzigen Modelen anfangen und überhaupt schauen ob das was für mich ist.
Ergänzung ()

ghecko schrieb:
Also beim oben verlinkten Video von L1 Tech hat er mit zwei GPUs 64GB für LLMs nutzen können und er meinte, das die Bandbreite zwischen den Karten hier noch keine Probleme machen würde laut seinen Benchmarks. 2 9700 Pro agieren wohl auf dem Level einer 5090, nur das eben doppelt so große Modelle in den VRAM passen.
Kommt darauf an was du machen möchtest! Das ist halt der Punkt. Will ich nur das Ding laufen betreibten, testen, nur Infering betreiben, Decode oder Prefill....

Aber ist Training LoRa nochso einfach möglich? Ich bin da noch zuwenig in der Materie.
 
Zuletzt bearbeitet:
Zurück
Oben