News Nvidia Kyber: Ein DGX SuperPod kompri­miert auf nur noch ein Rack

nlr

Redakteur
Teammitglied
Registriert
Sep. 2005
Beiträge
11.161
Zur GTC hat Nvidia mit dem Blackwell Ultra DGX SuperPod einen „Out-of-the-box AI Supercomputer“ vorgestellt, der mit 576 GPUs über 11 ExaFLOPS (FP4) Rechenleistung für KI-Projekte zur Verfügung stellt. Was dort allerdings noch auf vier Racks verteilt wird, könnte bald in ein einziges passen, wie das Kyber Rack von Nvidia zeigt.

Zur News: Nvidia Kyber: Ein DGX SuperPod kompri­miert auf nur noch ein Rack
 
  • Gefällt mir
Reaktionen: konkretor, the_IT_Guy, StevenB und eine weitere Person
Oh man, 600 kW...
Da weiß man ja wofür die 100 Milliarden für Klima in der Grundgesetzänderung verwendet werden können, für so KI-Hardware die dann ermitteln kann dass man die Klimaziele verfehlt.

P.S. Weiß man schon ob MF das Teil in seinen Angebotskatalog aufnehmen wird?
Frage für einen Freund... :mussweg:
 
  • Gefällt mir
Reaktionen: flo.murr, JanMH, devastor und 3 andere
Klar, wenn man auf so eine Veranstaltung eingeladen wurde mit Flug, Hotel, ... sollte man natürlich darüber berichten, sonst war das die letzte Einladung.
Aber ich glaube der Kreis derer, die sich für so etwas spezielles interessieren, ist hier auf CB doch eher klein denke ich.
Bin froh wenn die GTC rum ist, und ihr euch wieder mehr den Themen widmet die hier mehr Leute interessieren.
Kein Vorwurf, ich habe Verständnis.
 
  • Gefällt mir
Reaktionen: Fighter1993, Qyxes und Ganjafield
Mich interessiert das. Bitte mehr davon.

Welche Materialschlacht man vor 10 Jahren wohl führen musste, um eine vergleichbare Leistung zu bekommen... Irre.
 
  • Gefällt mir
Reaktionen: BlueBringer, konkretor, rentex und 2 andere
@Jan mach dir nichts drauß. Ich versteh zwar nur Bahnhof aber verschlinge diese Art der Berichte regelrecht. Danke dafür :)
 
  • Gefällt mir
Reaktionen: Tzk, PietVanOwl und nlr
600 kW/Rack... Wie bekommt man den ganzen Strom zu den Racks? Und wie schaufeln die Betreiber die Wärme wieder weg?

Das würde ich gerne mal live sehen.
 
  • Gefällt mir
Reaktionen: JanMH und CyrionX
Skysurfa schrieb:
Und wie schaufeln die Betreiber die Wärme wieder weg?

Über Wärmetauscher? Ich würde annehmen, dass das Kühlaggregat über mehrere in Reihe geschaltete Wärmetauscher verfügt, die einfach angeflanscht werden können und somit modular erweiterbar sind.
 
  • Gefällt mir
Reaktionen: MalWiederIch und nlr
Wurde jemals mehr Energie auf solche kleiner Fläche verbraucht? Denke das ist Weltrekord oder?
 
Zer0DEV schrieb:
Oh man, 600 kW...
Da weiß man ja wofür die 100 Milliarden für Klima in der Grundgesetzänderung verwendet werden können... .... Frage für einen Freund... :mussweg:
Dann bitte deinen Freund doch mal 2cm weiter zu denken anstatt beim ersten "Oh nein!"-Impuls damit aufzuhören.

Wieviel Energie verbraucht wird ist erstmal zweitrangig.

Denn: wofür wird sie verbraucht, wie effizient läuft die Berechnung?
Und vor allem: wie wird sie produziert?
Also das war jetzt doch gar nicht so schwer, oder?

Was meinst du denn was passiert, wenn Fusionskraftwerke endlich die heutigen Kraftwerke ersetzt haben.

Der Energieverbrauch wird, sofern die Menschheit bis dahin überlebt, exponentiell ansteigen.
Dabei steht das "überlebt" in direktem Zusammenhang mit der Art der Erzeugung der bis dahin verbrauchten Energie, weniger mit der absoluten Menge.

PS: schonmal von einer Dyson-Sphere gehört? ;)
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: kaji-kun und MalWiederIch
LamaMitHut schrieb:
Mich interessiert das. Bitte mehr davon.

Welche Materialschlacht man vor 10 Jahren wohl führen musste, um eine vergleichbare Leistung zu bekommen... Irre.
Wahrscheinlich ne ganze Werkshalle und die ganze Energie erst...noch mehr Atomkraftwerke.
 
CyrionX schrieb:
Dann bitte deinen Freund doch mal 2cm weiter zu denken anstatt beim ersten "Oh nein!"-Impuls damit aufzuhören.

Wieviel Energie verbraucht wird ist erstmal zweitrangig.

Denn: wofür wird sie verbraucht, wie effizient läuft die Berechnung?
Und vor allem: wie wird sie produziert?
Also das war jetzt doch gar nicht so schwer, oder?

Was meinst du denn was passiert, wenn Fusionskraftwerke endlich die heutigen Kraftwerke ersetzt haben.

Der Energieverbrauch wird, sofern die Menschheit bis dahin überlebt, exponentiell ansteigen.
Dabei steht das "überlebt" in direktem Zusammenhang mit der Art der Erzeugung der bis dahin verbrauchten Energie,
Die Evolution hat bisher alle Energieverschwender entsorgt.
CyrionX schrieb:
PS: schonmal von einer Dystonie-Sphere gehört? ;)

Dyson selbst bezeichnete seine Theorie im Jahr 2003 in einen Interview als „joke“ (Scherz):
https://de.wikipedia.org/wiki/Dyson-Sphäre
 
  • Gefällt mir
Reaktionen: JanMH
Skysurfa schrieb:
600 kW/Rack... Wie bekommt man den ganzen Strom zu den Racks? Und wie schaufeln die Betreiber die Wärme wieder weg?
So wie jetzt auch, nur das man aktuell halt mehrere Racks für die 600kW braucht. Die Racks sind wassergekühlt, sprich da wird ein Haufen Wärmetauscher und Schläuche rumliegen.

Damit die Nummer zumindest für die Umgebungsluft im Rechenzentrum halbwegs effizient ist, wird man die kalte Luft (im Winter) mit der Abwärme der Racks vorwärmen und im Sommer über riesige Klimaaggregate kühlen. Und idealerweise liefert man die Abwärme noch als Fernwärme an Industriebetriebe oder Haushalte.
 
  • Gefällt mir
Reaktionen: konkretor und JanMH
Hier wollen wir zusammenlegen und eins für CB anschalffen ?
Villt gibt das Land Berlin was dazu :D
 
CyrionX schrieb:
Was meinst du denn was passiert, wenn Fusionskraftwerke endlich die heutigen Kraftwerke ersetzt haben.
Jooaaa, meine Glaskugel ist derzeit in der Reinigung und Science-Fiction-Autor bin ich auch nicht, denn dem wenn steht erstmal das wann im Wege. Und das wann ist nach derzeitigem Stand (wenn man so liest wie es um die Energiegewinnung durch Fusion so steht (Grundlagenforschung) und die tollen neuen Startups, die sich in dem Segment breit machen) gaaaaaaaaaanz weit weg.
 
Was nVidia da abliefert ist einfach nur brutal. Welcher Anbieter gibt es denn sonst noch der so eine hohe Integrationsdichte zeigt. Sie werden Käufer dafür finden.
Wegen den 600 kw, sonst ist das ja verteilt über diverse Racks. Kommt doch aufs gleiche raus. So sparst extrem Platz
 
Zer0DEV schrieb:
Jooaaa, meine Glaskugel ist derzeit in der Reinigung und Science-Fiction-Autor bin ich auch nicht, .......
Du machst es dir absichtlich schwer um keine offensichtliche Antwort geben zu müssen ;)

Komm, nicht so zaghaft.

"Wenn wir mehr Energie zur Verfugung haben dann werden wir auch _____ Energie verbrauchen."
 
Tzk schrieb:
So wie jetzt auch, nur das man aktuell halt mehrere Racks für die 600kW braucht.
Dir ist aber schon klar was da für Ströme in den Außenleitern fließen? Da bist du bei 5x120² pro Außenleiter parallel aufgelegt.
 
Jan schrieb:
Wir wurden ja nicht gezwungen die Reise anzutreten. Aber der Blick auf diese Seite von Nvidia ist technisch interessant und erklärt doch auch ganz gut, warum GeForce gerade so tickt wie es tickt.
Keine Ahnung was das jetzt mit GeForce zu tun haben soll.
Skysurfa schrieb:
600 kW/Rack... Wie bekommt man den ganzen Strom zu den Racks? Und wie schaufeln die Betreiber die Wärme wieder weg?

Das würde ich gerne mal live sehen.
Naja, wie sonst auch. Über Stromschienen und dann abgangskästen für die 32A Stecker. Brauchst halt nen paar 32A 3 Phasen PDUs. Bzw du wirst die Power supplies wahrscheinlich direkt an der Stromschiene einstecken.

Nimmst so was wie das hier https://www.google.com/url?sa=t&sou...UQFnoECCQQAQ&usg=AOvVaw1tol9_TryyoI_Cbqc9ZTvV

Problem sind da eher die ganzen Abgangskästen.

Nehmen wir mal 30cm für 2x32A Abgangskästen brauchst du ~15x30cm also 4.5m voll belegte Stromschiene. Das ist breiter als das Rack. Du musst also mehrreihig arbeiten. Dann geht das aber schon.

SKu schrieb:
Über Wärmetauscher? Ich würde annehmen, dass das Kühlaggregat über mehrere in Reihe geschaltete Wärmetauscher verfügt, die einfach angeflanscht werden können und somit modular erweiterbar sind.
Du der Wärmetauscher für 1MW ist ziemlich klein. In ein normales Rack bekommst du redundante Pumpe plus Wärmetauscher für mehrere MW.

clarkathome schrieb:
Wurde jemals mehr Energie auf solche kleiner Fläche verbraucht? Denke das ist Weltrekord oder?
Schau dir nen Automotor an. Der toppt das ohne weiteres. Und ansonsten auch ziemlich viel anderer Scheiß.

rentex schrieb:
Wahrscheinlich ne ganze Werkshalle und die ganze Energie erst...noch mehr Atomkraftwerke.
Nö, rechne mal mit so ca Faktor 10 mehr Racks. Aber dad wars dann auch schon.

Tzk schrieb:
Und idealerweise liefert man die Abwärme noch als Fernwärme an Industriebetriebe oder Haushalte.
die Temperaturniveaus sind für Fernwärme absolut ungeeignet. Nicht mal für Nahwärme wirklich brauchbar ohne Temperaturerhöhung. Die Abwärme/Prozesswärme ist für fast nichts nutzbar. Wenn noch am ehesten für ein Schwimmbad oder ein Gewächshaus.

konkretor schrieb:
So sparst extrem Platz
wayne? Die Severräume sind doch eh fast leer. Platz juckt doch an sich keine Sau mehr so lange man nicht rein Netzwerktechnik oder so macht.

Skysurfa schrieb:
Dir ist aber schon klar was da für Ströme in den Außenleitern fließen? Da bist du bei 5x120² pro Außenleiter parallel aufgelegt.
Wie gesagt, das ist jetzt schon etwas mehr an Material aber man kann sich da schon drauf einstellen.
Ergänzung ()

Btw die Bestückung von zwei Seiten kennt man z.b. von Atos also nichts Neues.

Vor allem muss nVidia mal die Zuverlässigkeit in den Griff bekommen. Ich habe ziemlich schlechte Erfahrungen mit SXM GPUs gemacht. Die Ausfallraten sind deutlich höher und wenn in nem 8er System nur eine GPU ne Macke hat, musst du gleich das ganze System ausschalten weil kein Austausch während des Betriebes möglich ist.

Das ist aus Operation Sicht schon sehr unangenehm. Man hat ja deutlich weniger solcher Systeme. Oder wer hat schon mehr als 100 DGX Systeme unter seinen Fingern? Da ist also sofort 1%+ weg beim ersten zappler...
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: BlueBringer
Zurück
Oben