News Nvidia Blackwell Ultra: Microsoft nimmt GB300-Cluster mit 4.608 GPUs in Betrieb

[nlr]

Nach Nvidia Hopper und ersten Blackwell-Beschleunigern rückt jetzt die Ausbaustufe Blackwell Ultra in den Markt vor. Bei Microsoft Azure ist jetzt das weltweit erste Supercomputing-Cluster auf Basis von Nvidias GB300 NVL72 mit 4.608 GPUs in Betrieb genommen worden. Die Racks sind dicht gepackt und setzen auf Flüssigkeitskühlung.

Zur News: Nvidia Blackwell Ultra: Microsoft nimmt GB300-Cluster mit 4.608 GPUs in Betrieb

 

[Coolhawk]

Mhh, warum ist zwischen den Racks soviel Platz. Ist das wegen der Abwärme, muss das so sein oder lässt man sich da Platz für spätere Erweiterungen? Nur so aus Interesse...

 

[Mills97]

But. Can it run Crysis?

 

[Besuz]

@nlr Sind das tatsächliche Bilder?
https://azure.microsoft.com/en-us/blog/wp-content/uploads/2025/10/a-close-up-of-a-machine-ai-generated-content-may-3.webp
https://azure.microsoft.com/en-us/blog/wp-content/uploads/2025/10/a-machine-with-wires-and-wires-ai-generated-conte-2.webp

 

[Simonte]

Juhu, Cloud Gaming in 1440p
Bin gespannt wie ein Bettlaken

 

[aid0nex]

4.608? Exakt genauso viele CUDA Kerne hat die RTX 5060 Ti 16GB - und die haben davon aber GPUs verbaut... Krank.

 

[GrumpyCat]

"Mehrere hunderttausend Tokens pro Anfrage"? Welche Reasoning-Modelle sollen das sein? Die aktuellen erzeugen, was, vielleicht mal wenige tausend Tokens? Und würde so langes Thinking nicht auch den Kontext völlig verstopfen? (ernste Frage. Ist das da eine unsinnige Aussage/Komma verrutscht, oder gibt's irgendwelche Entwicklungen in die Richtung?)

 

[FrankN84]

Und daneben steht ein Atom-Meiler?
Der Strombedarf dürfte echt krass ausfallen.

 

[Besuz]

@FrankN84

Unit 1 decommissioning was expected to be completed in 2079 and would have cost $1.2 billion,[22][23] but in September 2024, Constellation Energy, the owner of the Unit, announced plans to invest $1.6 billion to bring the facility back online. The plant is expected to resume operations in 2028 as the Crane Clean Energy Center (CCEC).[24][25] The entirety of the plant's energy output will be sold to Microsoft Corporation. Microsoft entered into a 20-year agreement to purchase as much electricity as possible from the plant, which will support the company’s growing energy needs for its expanding network of data centers.[26]

https://en.wikipedia.org/wiki/Three_Mile_Island_Nuclear_Generating_Station

 

[Skysnake]

Mhh, warum ist zwischen den Racks soviel Platz. Ist das wegen der Abwärme, muss das so sein oder lässt man sich da Platz für spätere Erweiterungen? Nur so aus Interesse...

Flächenlast für den Boden vermutlich zu groß oder Sie bekommen sonst Platzprobleme mit Strom und Kühlung.

Du brauchst Unmengen an Infrastruktur für solche Racks.

 

[Dr. MaRV]

Und daneben steht ein Atom-Meiler?
Der Strombedarf dürfte echt krass ausfallen.

Um sowas wie Strom und den damit verbundenen Preis macht man sich nur in Deutschland Gedanken. Solche RZ Betreiber haben ihr eigenes Kraftwerk und verkaufen den Rest an die umliegenden Gemeinschaften/Städte.
Hat man in Wolfsburg auch so gehandhabt, als da noch Autos in nennenswerter Stückzahl produziert wurden. Jetzt wird man dort etwas mehr verkaufen und weniger selbst verbrauchen.

 

[stefan92x]

Um sowas wie Strom und den damit verbundenen Preis macht man sich nur in Deutschland Gedanken. Solche RZ Betreiber haben ihr eigenes Kraftwerk

Kraftwerkstechnik ist Mangelware. Genau deshalb. Also Gedanken macht man sich darum überall. Und der Preis ist enorm wichtig, ist er doch der höchste laufende Kostenpunkt.

 

[TomWoB]

Does it run Crysis?
Oups nur Zweiter ... sorry

 

[Alphanerd]

Um sowas wie Strom und den damit verbundenen Preis macht man sich nur in Deutschland Gedanken. Solche RZ Betreiber haben ihr eigenes Kraftwerk und verkaufen den Rest an die umliegenden Gemeinschaften/Städte

Sollte man sich in den USA vlt auch machen, weil da steigt der Strompreis für die Bürger sprungartig. Deren tlw über 130 Jahre alte Infrastruktur ist dafür einfach nicht ausgelegt. Auch unsere nach WW2 gebaute wäre das nicht.

https://winfuture.de/news,152162.html

 

[TheInvisible]

"Mehrere hunderttausend Tokens pro Anfrage"? Welche Reasoning-Modelle sollen das sein? Die aktuellen erzeugen, was, vielleicht mal wenige tausend Tokens? Und würde so langes Thinking nicht auch den Kontext völlig verstopfen? (ernste Frage. Ist das da eine unsinnige Aussage/Komma verrutscht, oder gibt's irgendwelche Entwicklungen in die Richtung?)

Wieso, Gemini hat ja schon ein 1. Mio Tokens context window und mit reasoning wirds nicht weniger

 

[SSD960]

But. Can it run Crysis?

Yes

 

[computerfouler]

Bei solchen Nachrichten weiß ich immer nicht ob ich lachen oder weinen soll!?
Wo geht der Energiebedarf für KI noch hin?