News Nvidia DGX GB200 SuperPOD: Supercomputer mit 576 Blackwell-GPUs liefert 11,5 ExaFLOPS

[nlr]

Auf die Vorstellung der B200-GPU auf Basis der Blackwell-Architektur lässt Nvidia mit dem B200-SXM-Modul und dem GB200 Grace Blackwell Superchip gleich die ersten Produkte mit dieser GPU folgen, die im DGX B200 und HGX B200 sowie im DGX GB200 und GB200 NVL72 zum Einsatz kommen. Damit lässt sich ein neuer SuperPOD bauen.

Zur News: Nvidia DGX GB200 SuperPOD: Supercomputer mit 576 Blackwell-GPUs liefert 11,5 ExaFLOPS

 

[DennisK.]

Bundle-Idee: Blackwell Supercomputer + AKW für 19,99 Mrd USD

 

[Restart001]

Irgendwo in den Links hab ich gelesen "nur" 3 Megawatt wird der verbrauchen.

 

[Nikflin]

Die Anordnung der Bauteile auf dem Superchip kann kein Zufall sein. Ich sehe ein lächelndes Gesicht mit Augenbrauen, eine bunte Nase und vergoldeten Augen. Okay ich geh jetzt mal schlafen…

 

[BAR86]

Cool, 11,5 Exaflops.
Wollte nicht Intel auch mal einen Cluster/Supercomputer ausrüsten mit ihren GPUs mit dem Leistungsziel 1 Exaflop... naja kann mich irren.
BTW eine Tabelle oder 2 würden dem Artikel guttun, falls Zeit ist. Die Specs einfach übersichtlicher oder im Vergleich (Vorgänger, Konkurrenz) betrachten zu können wäre hilfreich.

 

[stefan92x]

Wollte nicht Intel auch mal einen Cluster/Supercomputer ausrüsten mit ihren GPUs mit dem Leistungsziel 1 Exaflop... naja kann mich irren.

Kann man nicht direkt vergleichen. Bei Supercomputern wie dem Intel Aurora, den du meinst, geht es um FP64-Ops. Hier spricht Nvidia von FP4. Die FP64-Leistung wird nur einen Bruchteil dieser 11,5 Exaflops betragen.

 

[DocWindows]

"nur" 3 Megawatt wird der verbrauchen.

Ich zitiere mal aus einem CB-Artikel zum deutschen Exascale Projekt aus November 2023

18,2 Megawatt Leistungsaufnahme bei 1,0 ExaFLOPS HPC-Leistung liegen in der Liga, in der das aktuelle Nummer-1-System Frontier mit Hardware von AMD agiert. Frontier bot laut Top500 aus dem Mai 2023 bis dato 1,2 ExaFLOPS an Leistung bei knapp über 20 Megawatt

Also ja, es sind in der Tat "nur" 3 Megawatt.

 

[nyster]

Cool, 11,5 Exaflops.
Wollte nicht Intel auch mal einen Cluster/Supercomputer ausrüsten mit ihren GPUs mit dem Leistungsziel 1 Exaflop... naja kann mich irren.
BTW eine Tabelle oder 2 würden dem Artikel guttun, falls Zeit ist. Die Specs einfach übersichtlicher oder im Vergleich (Vorgänger, Konkurrenz) betrachten zu können wäre hilfreich.

Tja, die Exaflops der Supercomputer sind aber FP64-Leistung, nicht FP4. Streng genommen trifft die folgende Faustregel hardware-abhängig nicht zu, aber nur zum Abschätzen, das wäre 16x FP4, also das Equivalent eines 1-Exaflop-FP64 wären 16-Exaflop-FP4. Und selbst dann sind diese Zahlen immer nur bedingt vergleichbar, weil theoretische Rohleistung und praktische Nutzbarkeit durch viele Faktoren wie sogar je nach Anwendungsfall massiv unterscheiden.

Heuer soll außerdem El Capitan von AMD mit >2 Exaflop FP64 online kommen.

https://asc.llnl.gov/exascale/el-capitan

 

[ThirdLife]

Irgendwo in den Links hab ich gelesen "nur" 3 Megawatt wird der verbrauchen.

4 MW bei gleicher Leistung ggü. einem vorher 15 MW Hopper System. Was willst du also aussagen ? Dass Kontext nicht dein Ding ist ?

 

[Freiheraus]

Nur beim DGX GB200 SuperPOD bietet Nvidia zudem das neue Quantum-X800 InfiniBand Networking mit 800 statt 400 Gbit/s an. Das DGX B200 bleibt bei 400 Gbit/s.

Also entweder Nvidia-CPUs "mitkaufen" oder nur halbe Bandbreite mit anderen CPUs. Eine weitere Verdongelung Nvidias. Und der Ekelverein wollte ARM übernehmen.

 

[ThirdLife]

Jo und wenn ich von Intel auf AMD oder vice versa einen ESXi Host live migrieren will geht das auch nicht. Stell dir vor, dass das nichtmal zwingend bösartig sein muss sondern an technischen Limitierungen liegt von unterschiedlichen Providern.

Natürlich optimiert NV auf NV Produkte und nicht darauf besten Interconnect zu anderen zu bieten die die Technologie noch nichtmal am Start haben.

Immer das Geweine.

 

[=dantE=]

.... aber wieso XEON und nicht EPIC im SuperPOD?

 

[bad_sign]

.... aber wieso XEON und nicht EPIC im SuperPOD?

Masse? Die CPU ist egal, die muss nur IO und XEONs sind besser verfügbar

 

[=dantE=]

Masse?

Die Antwort hätte ich schon gern aus offiziellen Quellen.
Dennoch danke dass du dich angesprochen fühlst und eine Antwort formuliert hast.

 

[MrHeisenberg]

Also entweder Nvidia-CPUs "mitkaufen" oder nur halbe Bandbreite mit anderen CPUs. Eine weitere Verdongelung Nvidias. Und der Ekelverein wollte ARM übernehmen.

Vielleicht können es die anderen CPUs nicht?

 

[TenDance]

Eben. Interconnects und Bandbreite ist nur die halbe Wahrheit, dabei geht es vor allem um Latenz. nVidia kann bei ihrem SoC den Controller direkt integrieren - geringe Latenz, hohe Bandbreite. Das mit einem externen Controller für eine aftermarket-CPU zu realisieren ist ungleich aufwändiger.

 

[Mondgesang]

Man stelle sich bloß vor, wie viel Werbung sich mit so einem Ding abspielen/schalten ließe. Oder KI-generierten Content für OF und Co.

Die Menschheit wird schon eine sinnvolle Verwendung dafür finden

 

[SakuraMagic]

Ich hoffe, dass sie mit dem Einsatz solcher Supercomputer etwas Sinnvolles tun können, um die Technologie voranzubringen.

 

[=dantE=]

Vielleicht können es die anderen CPUs nicht

Laut dem Paper hier, handelt es sich um PCIe Gen6.

"[...] It provides 800Gb/s data throughput with PCI Express (PCIe) Gen6, offering up
to 48 lanes for various use cases such as PCIe switching inside NVIDIA GPU systems. [...]"

Wird also demnächst noch was mit den CPUs der anderen sobald die das auch unterstützen.

 

[Skysnake]

Jo und wenn ich von Intel auf AMD oder vice versa einen ESXi Host live migrieren will geht das auch nicht. Stell dir vor, dass das nichtmal zwingend bösartig sein muss sondern an technischen Limitierungen liegt von unterschiedlichen Providern.

Ähm... Das geht bei den neuen Intel auch nicht mehr. Ich meine Saphire Rapids oder war es IceLake hat Fa einen breaking Change drin, der den Wechsel von alter zur neuen Gen verhindert.

Daher wird bei vielen ja auch von Intel auf AMD gewechselt. Wenn man sich damit eh rumschlagen muss kann man ja such gleich den Hersteller wechseln....

Laut dem Paper hier, handelt es sich um PCIe Gen6.

"[...] It provides 800Gb/s data throughput with PCI Express (PCIe) Gen6, offering up
to 48 lanes for various use cases such as PCIe switching inside NVIDIA GPU systems. [...]"

Wird also demnächst noch was mit den CPUs der anderen sobald die das auch unterstützen.

Ähm... erstens ist das kein Paper, also im Sinne einer wissenschaftlichen Abhandlung sondern eine Produktblatt Akademie WhitePaper.

Und zweitens dreht es sich darum um die IB Karten. Die kannst du in jeden x beliebigen Rechner stecken. Sehr sehe sehr viele Cluster der Top500 verwenden Infiniband Karten von Mellanox, also jetzt nVidia.

Und so ne Infiniband Karte ist halt eine Netzwerkkarte mit RDMA Funktionalität. Das Ding spricht auf der einen Seite Infiniband und auf der anderen Seite PCIe. Das wars..


Ich finde die Entwicklung bedenklich aber es war vorauszusehen das nVidia immer mehr bundelt und einen dadurch zwingt möglichst viel von Ihnen zu kaufen wenn man die maximale Leistung will.

Scheiß drauf ob Sie sich und ihren Kunden damit ins Knie schießen. Hauptsache der Konkurrenz schießt man in beide Knie.....