News Rack Helios startet: Mit diesem Rack sieht sich AMD vor Nvidia an Position 1

[Volker]

Es ist AMDs großer Tag, das erste Rackscale-Design Helios ist fertig und in Produktion. AMD greift damit den Platzhirsch Nvidia frontal an und musste dafür in vielen Bereichen Neuerungen etablieren. Im riesigen Helios-Rack kommen diese nun alle gemeinsam zum Einsatz. Ein Überblick.

Zur News: Rack Helios startet: Mit diesem Rack sieht sich AMD vor Nvidia an Position 1

 

[stefan92x]

Überraschend also schonmal, dass Zen 6 Classic jetzt startet. Das wurde ja von vielen anders erwartet und nur mit Zen 6 Dense gerechnet.

 

[Knuddelbearli]

Denn, wie AMD erklärt, sind Fehler durchaus an der Tagesordnung, sei es nur durch ein fehlerhaftes Kabel.

Nvidia kann ja ein Lied davon singen

 

[ETI1120]

Überraschend also schonmal, dass Zen 6 Classic jetzt startet. Das wurde ja von vielen anders erwartet und nur mit Zen 6 Dense gerechnet.

Da hat AMD ganz bewusst falsche Spuren gelegt in dem sie immer nur SP7 mit den fetten Dies gezeigt haben.

Auch bei der Anzahl der CPU Cores von Helios zur CES hat AMD einen klaren Hinweis auf die Dense Version gegeben*). Jetzt spekulieren wir Mal, ob AMD die Pläne geändert hat oder falsche Spuren gelegt hat.

So wie AMD agiert sage ich Mal falsche Spuren.

Und ja, Du hattest recht.

Edit:
Die 256 Kerne pro CPU sind übringes auch noch auf der Folie, de AMD gezeigt hat. Da hat jemand vergessen beim kopieren der Folie den Wert anzupassen, ...

 

[CDLABSRadonP...]

Da hat AMD ganz bewusst falsche Spuren gelegt in dem sie immer nur SP7 mit den fetten Dies gezeigt haben.

Auch bei der Anzahl der CPU Cores von Helios zur CES hat AMD einen klaren Hinweis auf die Dense Version gegeben. Jetzt spekulieren wir Mal, ob AMD die Pläne geändert hat oder falsche Spuren gelegt hat.

So wie AMD agiert sage ich Mal falsche Spuren. (...)

Bin da ganz bei dir, in dem EPYC-Instinct-Bereich des Marketings sind sie (ganz anders als bei der RTG!) extrem clever.

Es ergibt auch vollkommen Sinn, dass auch die HighFrequency-Version erscheint. Sie haben die beiden nun auch echt krass voneinander getrennt. Im Vorfeld hätten sicher wenige auf nur acht CCDs für Zen 6 gesetzt, sondern sind davon ausgegangen, dass die Zen-6C-CCDs halt doppelt angebunden sind.

 

[ETI1120]

@stefan92x
Auch beim Thema SP7 und SP8 hattes Du recht.

Die Leaks dass SP7 exklusiv Dense und SP8 exklusiv Classic ist waren falsch.

 

[stefan92x]

@ETI1120 und trotzdem hab ich mich verunsichern lassen. Es stimmte nicht alles, aber nach der CES habe ich mehr richtig spekuliert als jetzt kurz vorm Launch.

Edit: man hat es jetzt nicht genau gesehen, aber wenn Verano nur 6 statt 8 CCD hat ist es sogar auch realistisch, dass das eine Variante mit einem IOD wird.

 

[ETI1120]

Bin da ganz bei dir, in dem EPYC-Instinct-Bereich des Marketings sind sie (ganz anders als bei der RTG!) extrem clever.

Man muss aber auch anerkennen dass das Marketing für Radeon einen verdammt schweren Job hat. Sie stehen unter einem Dauerdruck von Nvidia. Unter Druck macht man Fehler.

Es ergibt auch vollkommen Sinn, dass auch die HighFrequency-Version erscheint. Sie haben die beiden nun auch echt krass voneinander getrennt.

Was heißt getrennt. AMD hat nur SP7 mit den fetten CCDs gezeigt und immer nur von den 256 Kernen geredet.

Im Vorfeld hätten sicher wenige auf nur acht CCDs für Zen 6 gesetzt,

Das war Teil der Leaks zu Venice. 8 x 12 für Zen 6 Classic und 8 x 32 für Zen 6 Dense

sondern sind davon ausgegangen, dass die Zen-6C-CCDs halt doppelt angebunden sind.

In der künstlerischen Grafik oben ist zu sehen dass bei SP8 die Memory PHY weniger Platz benötigen und keine IPD verbaut sind. Außerdem glaube ich zu erkennen dass AMD die Anbindung bei SP8 deutlich schmaler darstellt.

Einen Teil des gewonnen Platzes verwendet AMD um bei SP8 4 PCIe-PHY Blöcke zu verbauen.

 

[stefan92x]

Auch bei der Anzahl der CPU Cores von Helios zur CES hat AMD einen klaren Hinweis auf die Dense Version gegeben. Jetzt spekulieren wir Mal, ob AMD die Pläne geändert hat oder falsche Spuren gelegt hat.

Eine Änderung wäre tatsächlich denkbar, gerade weil der Bedarf nach CPU-Leistung im AI-Bereich explodiert. 256 Kerne direkt im GPU-Rack klangen ursprünglich vielleicht völlig ausreichend, während AMD jetzt einen Haufen Partner-Racks voller CPUs präsentiert hat, die für Agentic AI gemeinsam mit Helios verbaut werden. Gut vorstellbar, dass diese CPU-Racks nicht immer Teil der Vision waren.

 

[ETI1120]

Eine Änderung wäre tatsächlich denkbar, gerade weil der Bedarf nach CPU-Leistung im AI-Bereich explodiert.

Ja es wäre möglich dass AMD überlegt hat die fette CPU als "in-House Agent" zu verwenden.
Aber ganz ehrlich, die Erkenntnis dass AMD 3 Typen von GPUs haben ist sicher nicht erst bei Earnings Call von Q1 entstanden.

256 Kerne direkt im GPU-Rack klangen ursprünglich vielleicht völlig ausreichend, während AMD jetzt einen Haufen Partner-Racks voller CPUs präsentiert hat, die für Agentic AI gemeinsam mit Helios verbaut werden. Gut vorstellbar, dass diese CPU-Racks nicht immer Teil der Vision waren.

Ich habe Deiner Argumentation nie widersprochen und immer nur auf das Verwiesen was AMD gesagt hat. Die CPU die die GPU ansteuert hatte immer hohe Taktfrequenzen.

Agentic AI war seit letztem Sommer ein heißes Thema. Ich denke damit wurde klar, dass man sehr viele CPUs in der Nähe der Racks benötigt. Da wird wohl auch klar gewesen sein dass man CPU Racks benötigt.

Ich halte es für sehr unwahrscheinlich, dass AMD erst nach der CES klar wurde, dass sie Racks benötigen.

 

[Bright0001]

Und wenn AMD anfängt zu liefern, platzt die Blase, ich sehs schon

 

[PS828]

Außerdem sind im Gegensatz zu Nvidias Produkten die wirklich nur für AI geeignet sind die hier verbauten instincts durchaus auch für heavy compute in FP64+ sehr gut geeignet und sollten an den 100 TFLOP FP64 pro Karte kratzen. (sofern ich hier bei den Produktnummern nichts durcheinander werfe)

Nur Falls mal nicht so viel in der einen Richtung gebraucht wird heißt das nicht dass niemand mehr sowas braucht. Auch CPUs haben mehr den je eine Aufgabe zu erfüllen. Ist noch viel los und viel möglich hier!

 

[ETI1120]

Außerdem sind im Gegensatz zu Nvidias Produkten die wirklich nur für AI geeignet sind die hier verbauten instincts durchaus auch für heavy compute in FP64+ sehr gut geeignet und sollten an den 100 TFLOP FP64 pro Karte kratzen. (sofern ich hier bei den Produktnummern nichts durcheinander werfe)

Die MI455X hat keine der advanced FP64 Features. Siehe auch https://chipsandcheese.com/p/llvm-divination-of-gfx1251s-differences

Die liegt in der FP64 Performance und ein bisschen vor NVIDA

Aber es gibt ja die MI430X, die liefert schlappe 288 FT. So wie ich es verstehe ist es deutlich mehr als das was Nvidia per Emulation erreicht. Dafür ist die AI-Leistung der MI430X auch deutlich geringer. Und das ist der Haken an der Sache.

Denn auch bei den klassischen HPC Workloads spielt AI immer mehr rein.

Nur Falls mal nicht so viel in der einen Richtung gebraucht wird heißt das nicht dass niemand mehr sowas braucht. Auch CPUs haben mehr den je eine Aufgabe zu erfüllen. Ist noch viel los und viel möglich hier!

Wir werden sehen was AMD an MI430X tatsächlich verkauft. Denn alleine das entscheidet ob AMD einen Nachfolger auflegt. Aber den erwarte ich so oder so nicht bei MI500.

 

[PS828]

Ah dann war es der 430X.. tja bei den Zahlen ist man schnell durcheinander gekommen

 

[LeckerRK]

Viel Erfolg bei AMD mal schauen wie Intel reagiert die sind ja nicht blöd ...^^

 

[stefan92x]

@LeckerRK Wie mans nimmt. Intel hat in Sachen Rackscale einfach gar nichts. Das Duell heißt Nvidia Oberon vs AMD Helios.

 

[ThePlayer]

Ich bin nicht so im Thema drin. Deshalb habe ich zwei Fragen zur der Meldung:
1. Wieso sieht sich AMD bei den Racks vor Nvidia? Mehr GPUs auf gleichem Raum?
2. Und was ist mit der Software? Ich dachte an CUDA führt kein Weg vorbei, und die Software von AMD taugt nicht viel?

 

[SweetOhm]

@ThePlayer Frag mal @DevPandi oder lass Dir einen Link zu einen Ihrer aufschlussreichen Erläuterungen geben.

 

[LeckerRK]

@LeckerRK Wie mans nimmt. Intel hat in Sachen Rackscale einfach gar nichts. Das Duell heißt Nvidia Oberon vs AMD Helios.

Abwarten wer in Zukunft bei Intel das sagen hat ,,,^^

 

[Pringel]

Aber es gibt ja die MI430X, die liefert schlappe 288 FT. So wie ich es verstehe ist es deutlich mehr als das was Nvidia per Emulation erreicht. Dafür ist die AI-Leistung der MI430X auch deutlich geringer. Und das ist der Haken an der Sache.

Denn auch bei den klassischen HPC Workloads spielt AI immer mehr rein.

Ja, spielt mit rein. Imho ist der theoretische Peak (FP4) bei 430X 9.2 Pflops. Bei 455X 40 Petaflops. Es ist also nicht so, daß wenn man hybrid fährt, mit dem Schwerpunkt FP64, man mit den KI Möglichkeiten der 430X kaum was anfangen kann
AMD ist FP64 mit 430X 6x schneller als Rubin. Ozaki II (ergo FP8) hätte bei 430X 20 Pflops zur Verfügung. Und jetzt kommt die Punchline dazu:
Als ich diesjahr danach gesucht habe, meinte Gemini, In FP8 sind 430X und 455X gleich schnell. Der Haken an der Sache scheint mir eher sehr klein
https://www.hpcwire.com/2026/08/03/amds-fp64-boost-with-mi430x-is-even-bigger-than-expected/

Wir werden sehen was AMD an MI430X tatsächlich verkauft. Denn alleine das entscheidet ob AMD einen Nachfolger auflegt. Aber den erwarte ich so oder so nicht bei MI500.

Solange es ein Plusgeschäft ist, wird man es machen. Mal davon ab, daß es einem nahe gelegt werden kann Die ganze Community um DoE ist von der Emu noch nicht wirklich überzeugt.
Wenn man da mitmacht, bekommt man ggf. auch mal wieder paar KI Aufträge neben NV Denn noch ist FP64 stark Systemrelevant und imho lässt man das NV auch nur durch, weil es eben noch AMD gibt

PS:
Die Emu zieht sich übrigens auch ordentlich mehr Speicher rein. Und Lösungen die gegenüber anderen, mit Speicher wuchern, ist aktuell kein Feature Scheme II wird jetzt erstmal von Dritten (Wissenschaftler) mit nachoptimiert. Grad was Speicherverbrauch angeht. Dann erst die langen Testphasen bei den realen Anwendern...
Kann sein, daß es mal in 4 Jahren soweit ist, aber das ist grad noch lange nicht der Zeitpunkt FP64 abzuschaffen. Jedenfalls für AMD nicht. Und für die Wissenschaften ebenfalls nicht.