Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsAMD Instinct MI430X: AMDs echter HPC-Chip ist „6 Mal schneller“ als Nvidia Rubin
AMD hat überraschend einen Ausblick auf die Leistung des Instinct MI430X gegeben. Ausnahmsweise ist das kein AI-Beschleuniger, er zielt auf andere Szenarien im HPC-Segment: Denn in der Wissenschaft, bei Simulationen und vielen weiteren Anwendungen ist die Berechnung bei doppelter Genauigkeit weiterhin extrem wichtig.
@Skysnake wäre es dir möglich eine Einschätzung abzugeben für diese Reihe. Du bist ja in dem Bereich mehr als Mittendrin. Falls es deine Zeit zu lässt
Danke
Das Feld maximale Genauigkeit ist auch irgendwie mir bei den ganzen News abhanden gekommen. In welchen konkretten Fällen würde man diese maximalle Genauigkeit benötigen?
Ich tippe jetzt einfach mal ins Blaue und sage sowas wie Wettersimulationen oder Lawienensimulation? Oh! Und natürlich alles was mit dem Weltraum zu tun hat. Kursberechnung usw. Jede Ungenauigkeit könnten da Tausende Kilometer am Ziel vorbei bedeuten. Denke ich in die richtige Richtung?
Es gibt kein Gegenstück von NVIDIA. NVIDIA erhöht die FP64 Leistung nicht mehr sondern konzentriert sich auf die Datentypen die für AI benötigt werden. NVIDIA wird FP64 mit kleinen Datentypen emulieren.
Vergleichen kann man immer. Die Frage ist in wie weit die Emulation tatsächlich echte F64 ersetzen kann.
Die MI430X ist dafür konzipiert physikalische Simulationen durchzuführen und damit ML Modelle zu trainieren. Die Modelle werden dann während der Entwicklung eingesetzt um Iterationen eines Designs zu bewerten. Auf diese Art und Weise kann man erheblich mehr Iterationen durchführen als wenn man physikalische Simulationen durchzuführt.
Wenn die Emulation von FP64 für die Anwendungsfälle funktioniert hat AMD keinen besonderen Vorteil. Wenn die Emulation aber wie AMD sagt zu begrenzt ist, dann ergibt sich ein Alleinstellungsmerkmal der F64.
Das ist eines der Kerngebiete von AI. seit letztem Sommer bietet das Europäische Zentrum für Mittelfristige Wettervorhersage ECMWF AI Ensembles an. Im Mai wird das ECMWF eine neue Version der AI Modelle veröffentlichen.
Die AI Modelle benötigen nur einen Bruchteil der Rechenleistung eines physikalischen Wettermodells.
Das Problem bei der Simulation von Wetter ist dass kleinste Abweichungen in den Daten zu komplett anderen Resultaten führen können. Deshalb werden die Modelle zigfach mit Variationen in den Eingangsdaten durchlaufen
Oder auch komplett für den Einsatz ohne AI. Nicht alles ist oder wird AI (auch wenn das in vielen Bereichen immer mehr wird, wie du ja auch gerade zum Thema Wetter schreibst).
incurable schrieb:
"30" steht also für hohe Leistung mit doppelter Gleitpunktgenauigkeit, "55" für hohe Leistung mit reduzierten Genauigkeiten? Logisch.
AMD scheint eher nach Clusterung zu benennen - MI455X ist für Rackscale-Systeme, 440X für 8-way, und 430X wurde bislang nur in einer 4-Way-Konfiguration gezeigt.
Die Produkte Bezeichnung sind vollkommen in Ordnung. Sie Unterscheiden die Produkte eindeutig.
Ergänzung ()
stefan92x schrieb:
Oder auch komplett für den Einsatz ohne AI. Nicht alles ist oder wird AI (auch wenn das in vielen Bereichen immer mehr wird, wie du ja auch gerade zum Thema Wetter schreibst).
AMD scheint eher nach Clusterung zu benennen - MI455X ist für Rackscale-Systeme, 440X für 8-way, und 430X wurde bislang nur in einer 4-Way-Konfiguration gezeigt.
Trotzdem gibt es auch für AI einen Bedarf nach "Non-AI-Chips". Wir sehen ja z.B. aktuell auch einen großen Bedarf nach CPUs fürs Training von z.B. Coding-Agenten, die das generierte Testen und Kompilieren müssen. Ebenso gibt es für physikalische AI sicherlich den Bedarf nach Systemen, die die AI-Daten physikalisch validieren. Also ein Helios-Rack trainiert ein AI-Modell, wobei Server mit 430X das Feedback liefern, wie gut welcher Output war.
Du hast ja auch schon geschrieben, dass man MI430X beim Training von ML-Modellen einsetzen können wird, aber das heißt eben nicht unbedingt, dass die Modelle selbst auf den MI430X laufen sollen. Und im übrigen heißt das für solche Anwendungsfälle sogar, dass MI430X-Systeme auch sinnvoll mit Nvidia-Racks für AI gepaart werden können.
Das ist eines der Kerngebiete von AI. seit letztem Sommer bietet das Europäische Zentrum für Mittelfristige Wettervorhersage ECMWF AI Ensembles an. Im Mai wird das ECMWF eine neue Version der AI Modelle veröffentlichen.
Hier kommt es darauf an wie gut und wie weit einsetzbar die Emulation von FP64 ist.
AMD wettet darauf, dass es genügend Fälle gibt bei der nativ FP64 bessere Resulate verspricht als die Emulation.
Wenn Du den ersten Artikel durchliest, dann fällt Dir auf dass AMD schon so viel zur MI430X und den Gründen dazu verraten hatte, dass sie auch gleich die Zahl nennen konnten.
stefan92x schrieb:
Wir sehen ja z.B. aktuell auch einen großen Bedarf nach CPUs fürs Training von z.B. Coding-Agenten, die das generierte Testen und Kompilieren müssen.
So wie ich es verstehe kommt der große Bedarf an CPU nicht vom Trainieren oder von der Inferenz sondern von den Agenten die Programme ausführen.
stefan92x schrieb:
Ebenso gibt es für physikalische AI sicherlich den Bedarf nach Systemen, die die AI-Daten physikalisch validieren. Also ein Helios-Rack trainiert ein AI-Modell, wobei Server mit 430X das Feedback liefern, wie gut welcher Output war.
Was ich eher sehe ist dass man die Modelle auf einem MI430X Cluster trainiert und dann auf Workstations ausrollt und anschließend die besten Ergebnisse wieder auf der MI430X validiert.
Aber wenn die Emulation auf Basis der kleinen Dateitypen gut genug ist, wird das ganze in AI-Beschleunigern ablaufen.
stefan92x schrieb:
Du hast ja auch schon geschrieben, dass man MI430X beim Training von ML-Modellen einsetzen können wird, aber das heißt eben nicht unbedingt, dass die Modelle selbst auf den MI430X laufen sollen. Und im übrigen heißt das für solche Anwendungsfälle sogar, dass MI430X-Systeme auch sinnvoll mit Nvidia-Racks für AI gepaart werden können.
An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.
Wenn sich die Leute die weltweit die besten Wettermodelle haben, mit AI beschäftigen ist das ernst zu nehmen. Dass die AI Wettermodelle noch nicht besser sind ist klar, denn dann würde die ECMWF die Nutzung der physikalischen Modelle stark zurückfahren. Aber dass die ECMWF die Ergebnisse ihrer AI-Modelle zusammen mit den Ergebnissen der physikalischen Modelle präsentiert ist ein Statement.
Wenn sich die Leute die weltweit die besten Wettermodelle haben, mit AI beschäftigen ist das ernst zu nehmen. Dass die AI Wettermodelle noch nicht besser sind ist klar, denn dann würde die ECMWF die Nutzung der physikalischen Modelle stark zurückfahren. Aber dass die ECMWF die Ergebnisse ihrer AI-Modelle zusammen mit den Ergebnissen der physikalischen Modelle präsentiert ist ein Statement.
