@SaoJoaoBatista Du hast auch sicherlich keine Anwendung, die 1,6 TB (!) VRAM braucht
News Gerücht: AMD dementiert RX 9070 XT mit 32 GB, aber nicht 32 GB
- Ersteller MichaG
- Erstellt am
- Zur News: Gerücht: AMD dementiert RX 9070 XT mit 32 GB, aber nicht 32 GB
therealcola
Commander
- Registriert
- Sep. 2020
- Beiträge
- 2.222
Unlimited1980
Lieutenant
- Registriert
- Apr. 2009
- Beiträge
- 1.019
therealcola
Commander
- Registriert
- Sep. 2020
- Beiträge
- 2.222
Ghostshield
Lt. Junior Grade
- Registriert
- Apr. 2012
- Beiträge
- 483
Ich hatte immer gedacht das AMD MCM soweit treibt das man mehrere Compute DIEs zusammen kleben kann.
z.b. 2x Navi 48 mit 64CUs also 8192 Cores / 512 Bit 32GB 600W
z.b. 2x Navi 48 mit 64CUs also 8192 Cores / 512 Bit 32GB 600W
therealcola
Commander
- Registriert
- Sep. 2020
- Beiträge
- 2.222
kommt ja auch noch die haben das hinter verschlossenen türen in ihren wissenschafts räumen doch eh schon alles liegen die planen doch gefüht immer 5 jahre vorraus.
wat wir jetzt hier kriegen wird als sensation verkauft während die in ihren schubladen schon ganz andere kaliber haben
immer schön den fortschritt langsam und stetig zum markt bringen der kunde ist happy und blecht ordentlich
wat wir jetzt hier kriegen wird als sensation verkauft während die in ihren schubladen schon ganz andere kaliber haben
immer schön den fortschritt langsam und stetig zum markt bringen der kunde ist happy und blecht ordentlich
Ein Unboxing einer Gigabyte-Version der RX 9070 XT gibt es auf Twitter:
https://x.com/GaMer31648811/status/1890543895781515513
https://x.com/GaMer31648811/status/1890543895781515513
Unlimited1980
Lieutenant
- Registriert
- Apr. 2009
- Beiträge
- 1.019
!!WOOOW!!
...sie haben es geschafft!
Damit hat Deepseek jetzt die Türe geöffnet für "AI für jedermann"
Geschäftsmodelle der Wallstreet sind damit overnight wertlos!
60 USD für 1Mio token nicht mehr haltbar!
Ist eigentlich sogar ne news wert, sowas..
Das schwächer quantisierte volle 671B Modell braucht nur rund 400GB VRAM und läuft auf 14x 3090!
7,6 token/s!
Wie die Leistung zeigt: es doch voll skalierbar!
Sie zeigen leider nicht, wie sie es in Hardware genau gelöst haben und wie genau sie die 14x 3090 angebunden, aber es klappt.
Sieht für mich nicht anders aus, als ein klassisches Mining Rig!
Was mit 14 GPUs geht, das sollte auch mit 50 laufen.
Damit sollte dem nichts im Wege stehen, auch das "volle" "volle" FP16 Deepseek laufen zu lassen auf 67x 24GB-Karten oder 50x 32GB Karten.
Es ist bestätigt!
Schnallt euch an Leute!
Stellt euch gedanklich drauf ein.
Schnappt euch die Karten, die für euch ok sind, so lang es sie noch gibt.
Meine Berechnungen für den hypotetischen Grafikkartenwert nach VRAM sind damit validiert.
7900 XTX ist derzeit deutlich unter Wert nach dem Modell!
https://www.computerbase.de/forum/t...-32-gb-aber-nicht-32-gb.2229822/post-30292874
GPUs mit viel VRAM >24GB dürften allgemein knapp/unkaufbar/überteuert bleiben für das komplette Jahr 2025.
Die ganze Welt rennt jetzt dieser Sache hinterher.
Miningboom 2.0
Das wars.
q.e.d.
...sie haben es geschafft!
Damit hat Deepseek jetzt die Türe geöffnet für "AI für jedermann"
Geschäftsmodelle der Wallstreet sind damit overnight wertlos!
60 USD für 1Mio token nicht mehr haltbar!
Ist eigentlich sogar ne news wert, sowas..
Das schwächer quantisierte volle 671B Modell braucht nur rund 400GB VRAM und läuft auf 14x 3090!
7,6 token/s!
DeepSeek R-1 671B on 14x RTX 3090s + Epyc 7713 and 512GB RAM
Wie die Leistung zeigt: es doch voll skalierbar!
Sie zeigen leider nicht, wie sie es in Hardware genau gelöst haben und wie genau sie die 14x 3090 angebunden, aber es klappt.
Sieht für mich nicht anders aus, als ein klassisches Mining Rig!
Was mit 14 GPUs geht, das sollte auch mit 50 laufen.
Damit sollte dem nichts im Wege stehen, auch das "volle" "volle" FP16 Deepseek laufen zu lassen auf 67x 24GB-Karten oder 50x 32GB Karten.
Es ist bestätigt!
Schnallt euch an Leute!
Stellt euch gedanklich drauf ein.
Schnappt euch die Karten, die für euch ok sind, so lang es sie noch gibt.
Meine Berechnungen für den hypotetischen Grafikkartenwert nach VRAM sind damit validiert.
7900 XTX ist derzeit deutlich unter Wert nach dem Modell!
https://www.computerbase.de/forum/t...-32-gb-aber-nicht-32-gb.2229822/post-30292874
GPUs mit viel VRAM >24GB dürften allgemein knapp/unkaufbar/überteuert bleiben für das komplette Jahr 2025.
Die ganze Welt rennt jetzt dieser Sache hinterher.
Miningboom 2.0
Das wars.
q.e.d.
Zuletzt bearbeitet:
BDR529 schrieb:
Wieso nicht? Sagt wer?
Stimmt einfach nicht.
Ergänzung ()
Unlimited1980 schrieb:
Sorry, aber glaubst Du jetzt ernsthaft, die Leute fangen an, Consumer GPUs zu bunken um damit AI Modelle laufen zu lassen!? Anstatt sich deutlich effizientere (und vor allem besser kühlbare und mit besserer Anbindung und Redundanz verfügbaren) Server in Rechenzentren anzumieten?
https://de.wikipedia.org/wiki/TechnokratieUnlimited1980 schrieb:
Gamer sind ja wohl sowas von emotional...
- Registriert
- Juli 2008
- Beiträge
- 7.848
Ich wäre für eine XL9090 XTX Pro SEdrago-museweni schrieb:
Also ich seh das so: Vorausgesetzt die 9070XT hat "genug" Leistung und ist effizient, dann sind meiner Auffassung nach 200 bis 300 Euro mehr in 32GB VRAM möglicherweise gut investiertes Geld um den Nutzungszyklus der Karte um ein oder zwei Jahre zu verlängern.
Was bei der letzten Generation 12GB waren - nämlich das Minimum um zumindest mittelfristig bei den meisten Titeln auf der sicheren Seite zu sein - sind heute 16GB. Erste Titel reißen das bereits. Das Minumum ist OK, aber diese Grenze verschiebt sich weiter. Da kann man natürlich spekulieren, ob man dann überhaupt die nötige Leistung hat um mit den Details zu spielen. Es bleibt jedoch dabei: Heute etwas zu kaufen, was hart an der Grenze dimensioniert ist, bei sicher steigendem VRAM-Bedarf, ist vielleicht (Nachhaltigkeit dahingestellt) bei einem absoluten Preisbrecher zu rechtfertigen. Aber bei vielen hundert Euro, ist es meiner Auffassung nach klüger dann mehr VRAM zu nehmen und den Aufpreis dann zu zahlen und länger Freude daran zu haben. Dass die ihrerzeit mit aburd viel VRAM ausgestatteten Modelle heute noch brauchbar sind, kommt ja auch genau daher. Und es gibt keine Anzeichen dass der VRAM-Bedarf stagnieren wird - leider. Denn effizient sind die Titel nicht programmiert, waren Spiele zuletzt wahrscheinlich in den 90ern.
Bzgl. einer XTX: Vielleicht eine X2? Ich mein das wär doch ne Überraschung. Aber da AMD Chiplet kann, wäre es wahrscheinlich für die nicht unmöglich, das ganze auf Chipebene zu lösen.
Was bei der letzten Generation 12GB waren - nämlich das Minimum um zumindest mittelfristig bei den meisten Titeln auf der sicheren Seite zu sein - sind heute 16GB. Erste Titel reißen das bereits. Das Minumum ist OK, aber diese Grenze verschiebt sich weiter. Da kann man natürlich spekulieren, ob man dann überhaupt die nötige Leistung hat um mit den Details zu spielen. Es bleibt jedoch dabei: Heute etwas zu kaufen, was hart an der Grenze dimensioniert ist, bei sicher steigendem VRAM-Bedarf, ist vielleicht (Nachhaltigkeit dahingestellt) bei einem absoluten Preisbrecher zu rechtfertigen. Aber bei vielen hundert Euro, ist es meiner Auffassung nach klüger dann mehr VRAM zu nehmen und den Aufpreis dann zu zahlen und länger Freude daran zu haben. Dass die ihrerzeit mit aburd viel VRAM ausgestatteten Modelle heute noch brauchbar sind, kommt ja auch genau daher. Und es gibt keine Anzeichen dass der VRAM-Bedarf stagnieren wird - leider. Denn effizient sind die Titel nicht programmiert, waren Spiele zuletzt wahrscheinlich in den 90ern.
Bzgl. einer XTX: Vielleicht eine X2? Ich mein das wär doch ne Überraschung. Aber da AMD Chiplet kann, wäre es wahrscheinlich für die nicht unmöglich, das ganze auf Chipebene zu lösen.
- Registriert
- Aug. 2019
- Beiträge
- 2.137
Die Überschrift ist schon korrekt so.
Es wird die 9070 XT mit 32GB dementiert, aber nicht, dass eine (andere) Karte mit 32GB kommt.
Es wird die 9070 XT mit 32GB dementiert, aber nicht, dass eine (andere) Karte mit 32GB kommt.
Ähnliche Themen
