News CPUs bleiben wichtig: Nvidia bietet reines Vera-CPU-Rack mit 256 Prozessoren an

[nlr]

Agentic AI und Reinforcement Learning benötigen schnelle CPUs, erklärt Nvidia zur GTC. Deshalb bietet das Unternehmen seine neue Vera-CPU jetzt auch in einem Rack ausschließlich mit CPUs an. Es reiht sich damit neben der Vera-Rubin- und der neuen LPU/LPX-Lösung ein. Partner gehen dabei noch weiter als Nvidia selbst mit 256 CPUs.

Zur News: CPUs bleiben wichtig: Nvidia bietet reines Vera-CPU-Rack mit 256 Prozessoren an

 

[eastcoast_pete]

@nlr: Gibt's da die Chance, daß Ihr die CPU mal ausprobieren könnt?

Insgesamt sind die Vera CPUs ziemlich spannend, und nicht nur, weil sie, wie die großen Kunpeng Kerne von Huawei, ARM Kerne mit SMT sind.
Vielleicht gibt's dann auch eine Spark 2 mit Vera CPU Kernen?

 

[CDLABSRadonP...]

Wäre ja mal was, wenn Nvidia jetzt tatsächlich mal eine ordentliche CPU-Architektur zusammengestöpselt hätte. Bislang waren die CPUs ja mehr Beiwerk bei All-In-One-Lösungen...

 

[Rickmer]

Ich ziehe einen positiven Zwischenfazit: SOCAMM kommt in der Industrie an.

 

[HOCLN2]

Gibt's da die Chance, daß Ihr die CPU mal ausprobieren könnt?

Die kannst bestimmt nicht einzeln mit einem Board kaufen und Nvidia verkauft das nur als Rack. Aber eventuell nach 3-5 Jahren, wenn die abgeschrieben werden, kann man an solche Dinger kommen (wenn die noch funktional sind). Es gibt nämlich Gerüchte, dass die GPU's nur 1,5 Jahre durchhalten und dann teil oder ganz defekt werden. Fraglich, wie das mir der CPU dann aussieht.

Ergänzung (16. März 2026)

SOCAMM kommt in der Industrie an.

Hoffentlich auch in den Consumermarkt, denn die Bandbreite, Signal Stabilität, Kompaktheit und Kühlmöglichkeiten ermöglichen sehr interessante Systeme.

 

[FrozenPie]

SOCAMM kommt in der Industrie an.

Wäre interessant was da noch so alles mit diesem Format geht. Die Module für Vera aus dem Artikel (1,2 TB/s für acht Module) ergeben 160 GB/s pro Modul. Mit vier Modulen hat man 640 GB/s was der Speicherbandbreite einer RX 9700 XT entspricht. Aufrüstbarer GPU-Speicher in Zukunft?

Mit LPDDR6 bei 16.0000 MT/s wären dann in Zukunft sogar 256 GB/s pro Modul möglich. Man würde also mit vier Modulen auf 1024 GB/s kommen, was über der Speicherbandbreite einer RTX 5080 (960 GB/s) liegt, bei potenziell wesentlich mehr Speicher (bis zu 1024 GB, mit den angekündigten 256 GB Modulen)!

Dann muss nur noch 3D-DRAM endlich den Durchbruch haben und in der Massenfertigung landen, dann dürfte die Speicherdichte von DRAM um das 16-fache steigen. Ein SOCAMM Modul könnte dann potenziell 4096 GB Speicher haben

Fange schon an zu träumen bevor ich überhaupt im Bett bin...

 

[imperialvicar]

Was solch eine Ki wohl sagt wenn sie gefragt wird ob es besser ist noch mehr Menschen auf diesem Planeten zu haben welche immer mehr Energie für Ki verbrauchen

 

[Ayo34]

Die kannst bestimmt nicht einzeln mit einem Board kaufen und Nvidia verkauft das nur als Rack. Aber eventuell nach 3-5 Jahren, wenn die abgeschrieben werden, kann man an solche Dinger kommen (wenn die noch funktional sind). Es gibt nämlich Gerüchte, dass die GPU's nur 1,5 Jahre durchhalten und dann teil oder ganz defekt werden. Fraglich, wie das mir der CPU dann aussieht.

Naja, könnte ja durchaus "Vorführ-Systeme" für die Presse geben, die man dann mal für einen Tag ausgiebig testen/probieren könnte. Je nach Größe müsste man dafür dann aber wohl zu Nvidia hin und würde sowas nicht zugeschickt bekommen.

Kaufen um ein bisschen zu testen ist sicherlich keine Option...

 

[eastcoast_pete]

@Ayo34 Entweder das, oder Nvidia könnte auch Instanzen zum "Ausprobieren" zugänglich machen. Die Gravitons von AWS kann man ja auch nicht kaufen, aber "probefahren" ging schon ab der ersten Generation.

Ergänzung (17. März 2026)

Auch interessant, daß die Entscheidung von Nvidia, jetzt doch massiv auf ihre eigenen ARM ISA kompatiblen Designs zu setzen, recht schnell auf der klaren Trennung zwischen ARM und Nvidia folgte. Hat wohl auch nicht geholfen, daß Softbank als größter ARM Aktionär in letzter Zeit viel mit AMD zusammen gemacht hat bzw mit AMDs Instincts machen will.

Und hier noch ein Spekulatius komplett ohne (bislang) dahin führende Leaks: starke CPU Kerne auf ARM ISA Basis könnten auch für Endkunden allgemein interessant sein. Vielleicht kommt ja noch was nach aus der Kooperation mit Mediatek? Die großen Kunpeng/TaiShan Kerne in Huaweis Kirin SoCs fingen auch als Huawei Server CPUs an.

 

[JustAnotherTux]

Es gibt nämlich Gerüchte, dass die GPU's nur 1,5 Jahre durchhalten und dann teil oder ganz defekt werden

Wieso?
CPUs halten doch normalerweise ziemlich lange.

 

[F4T4L1TYftw]

Aufrüstbarer GPU-Speicher in Zukunft?

das ist doch ein alter Hut😉

 

[HOCLN2]

Wieso?
CPUs halten doch normalerweise ziemlich lange.

Aber nicht unter den Bedingungen, zumindest die GPU's sollen das meistens nicht überleben. Deshalb habe ich auch geschrieben, dass man schauen muss, ob die CPU länger lebt.

Forbes
TomsHardware

 

[yamiimax]

Seit wann macht Nvidia CPUs😂

 

[stefan92x]

@yamiimax Schon seit Jahren - Grace Hopper war die erste Generation 2022.

 

[yamiimax]

Ach warum machen die dann nicht die neue Konsolengeneration? 😂

 

[stefan92x]

@yamiimax Darf ich dir die Switch vorstellen?

 

[yamiimax]

Ach warum machen die dann nicht die neue Konsolengeneration? 😂

Bin mal gespannt auf die nächste Switch ob die dann die Leistung einer PS5 hat?

Bin fair und sage dir jetztige schafft PS4👍🏻

 

[eastcoast_pete]

Die kannst bestimmt nicht einzeln mit einem Board kaufen und Nvidia verkauft das nur als Rack. Aber eventuell nach 3-5 Jahren, wenn die abgeschrieben werden, kann man an solche Dinger kommen (wenn die noch funktional sind). Es gibt nämlich Gerüchte, dass die GPU's nur 1,5 Jahre durchhalten und dann teil oder ganz defekt werden. Fraglich, wie das mir der CPU dann aussieht.

Ergänzung (16. März 2026)

Hoffentlich auch in den Consumermarkt, denn die Bandbreite, Signal Stabilität, Kompaktheit und Kühlmöglichkeiten ermöglichen sehr interessante Systeme.

Wenn Du für die Gerüchte zu dem Ausfall von GPUs nach 1-1.5 Jahren Links hast, bitte reinstellen!
Könnte durchaus sein, da die GPUs je nach Betreiber der KI Farm schon ziemlich gestresst werden. Außerdem hatte Jensen Huang erst letztes Jahr nur halb im Scherz gemeint, daß man nach dem Launch von GB200/300 Hoppers nicht einmal mehr für umsonst weggeben könnte 😁.

 

[HOCLN2]

Wenn Du für die Gerüchte zu dem Ausfall von GPUs nach 1-1.5 Jahren Links hast, bitte reinstellen!

Aber nicht unter den Bedingungen, zumindest die GPU's sollen das meistens nicht überleben. Deshalb habe ich auch geschrieben, dass man schauen muss, ob die CPU länger lebt.

Forbes
TomsHardware

Hier