News Telekom × Nvidia: KI-Fabrik wird mit Blackwell Ultra auf 20 Megawatt erweitert

nlr

Redakteur
Teammitglied
Registriert
Sep. 2005
Beiträge
11.687
  • Gefällt mir
Reaktionen: Jevi, schneeland, BrollyLSSJ und 3 andere
20 Megawatt sind nur 2000 Ai Beschleuniger.

OpenAi hat bereits 100.000 GPU im Einsatz und will im Endausbau 1.000.000! GPU installiert haben.

Backen wir hier in Europa zu kleine Brötchen oder sind die Amis total durchgeknallt und Größenwahnsinnig?

😀😀😀
 
  • Gefällt mir
Reaktionen: xXBobbyXx, HtOW, XD-User und 5 andere
Im Unterschied zu OpenAi scheint die Telekom mit ihrer Investition Geld zu verdienen.
 
  • Gefällt mir
Reaktionen: xXBobbyXx, Xiaolong, Schumey und 25 andere
Das Geld für die zweite Konkubine ist gesichert.
 
  • Gefällt mir
Reaktionen: Schumey, XD-User, Zagrthos und 7 andere
einblumentopf schrieb:
Im Unterschied zu OpenAi scheint die Telekom mit ihrer Investition Geld zu verdienen.
Kann man aber nicht direkt vergleichen - OpenAI stellt im Wesentlichen das Modell bereit, hier wird alles mögliche bereitgestellt, was mit dieser Rechenleistung was anfangen kann und dann klappt das augenscheinlich auch.
 
subcontractor schrieb:
OpenAi hat bereits 100.000 GPU im Einsatz und will im Endausbau 1.000.000! GPU installiert haben.
Ich will auch viel, wenn der Tag lang ist.

interesTED schrieb:
Kann man aber nicht direkt vergleichen
Natürlich kann man es direkt vergleichen: OpenAI wird mit dem aktuellen Modell niemals profitabel werden, Telekom hingegen schon. Was die Implikation ist, kann sich jeder selbst denken.
 
  • Gefällt mir
Reaktionen: XD-User, Zagrthos, Monarch2 und 3 andere
20 Megawatt rein für GPUs wären rund 33.333 RTX6000 Pro Blackwells, ohne Infrastruktur.

Aber in kompletten Racks wäre ein neuer GB300 NVL72 mit 72 GPUs rund 150kW pro Rack.
Also in Summe ~133 Racks mit zusammen ~9.600 GPUs...
 
  • Gefällt mir
Reaktionen: XD-User, Weyoun und Azdak
subcontractor schrieb:
20 Megawatt sind nur 2000 Ai Beschleuniger.
Damit wäre ein Ai Beschleuniger bei 10 kW. Das erscheint mir sehr hoch (ich hätte mir max. 1kW erwartet), aber ich habe kein Vorwissen.
 
frazzlerunning schrieb:
Damit wäre ein Ai Beschleuniger bei 10 kW.
Weil ein "AI Beschleuniger" ein Serverblade aus 8 GPUs ist. Bei der B200 ist der Verbrauch pro Blade bei ~15kW
 
  • Gefällt mir
Reaktionen: frazzlerunning
Wir haben nicht die Windräder für 100.000 GPUs 🙃
 
  • Gefällt mir
Reaktionen: laxus222, Schumey, Lynacchi und eine weitere Person
Wann erfolgt die Umbenennung in AI-kom ?
 
nlr schrieb:
Die Abwärme soll „künftig“ sinnvoll genutzt: sie soll das gesamte Quartier des Tucherparks mit Wärme versorgen.
Die Frage ist nur: Wann ist „künftig“?

Das bittere ist ja: All das war seit Jahrzehnten bekannt, also dass man durch Rechenzentren nunmal effektiv kostenloses Warmwasser erhält und dieses bloß nutzbar machen muss. Aber es ist zu wenig geschehen, stattdessen wurde z.B. Gas weiterhin plump privat verfeuert. Das ergab keinen Sinn und das ergibt mit Blick auf die Zukunft gar keinen.
 
  • Gefällt mir
Reaktionen: XD-User, JanMH, Dezor und 2 andere
Springen deutsche Unternehmen auf den AI Zug auf, gibt es Leute die darüber in den Kommentaren rum meckern.
Würden deutsche Unternehmen den AI Zug ignorieren oder verschlafen, würden die Leute in den Kommentaren sich darüber genauso beschweren.

Ich find das Vorgehen der Telekom gut, es wirkt auf der Höhe der Zeit und sieht mir dennoch nach organischem Wachstum aus. Hier scheinen Nachfrage und Angebot zueinander zu passen. Das ist kein utopisches Wachstum auf Pump.
 
  • Gefällt mir
Reaktionen: Schumey, stormi, Piwi03 und 8 andere
Besser wenn die Aufgaben bei uns in Deutschland bleiben ... wo wir mit den teuer fertig trainierten Modellen nun mit den Automatisierungen gegen die Bürokratie kämpfen können. Welche dann von den Behörden auch mit AI automatisiert und weiter ausgebaut wird. xD
 
tomgit schrieb:
Ich will auch viel, wenn der Tag lang ist.


Natürlich kann man es direkt vergleichen: OpenAI wird mit dem aktuellen Modell niemals profitabel werden, Telekom hingegen schon. Was die Implikation ist, kann sich jeder selbst denken.
Nein kann man nicht. Open AI stellt mir keine GPU Leistung für was auch immer zur Verfügung. Ich kann bei OpenAI nur einen Endpunkt ansteuern und fertig. Natürlich klappt das hier für die Telekom besser, auch weil die Daten in D bleiben und nicht an einen der Großen gehen. Aber das sind verschiedene Geschäftsmodelle.
 
  • Gefällt mir
Reaktionen: Col. Jessep
Kommt richtig spät... und die Telekom hat bis heute noch keine einzige richtige Cloud. Aber eine KI Farm bauen....
Weiß nicht... wäre es nciht erstmal wichtiger, oder genauso wichtig, unsere Behörden, und Bürgerdaten, abhörsicher zu verwalten?!

Nicht das ich jetzt vollständig gegen das Projekt wäre. Aber solange zb Krankenkassen, Behörden US Firmen ihre Daten abwickeln müssen, weil die Telekom es nicht kann, fehlt ihr nicht auch die primäre Basis für eine sicherer AI-Fabrik?
 
  • Gefällt mir
Reaktionen: Network88 und JanMH
Blutomen schrieb:
Welche dann von den Behörden auch mit AI automatisiert und weiter ausgebaut wird
Die KI der Bundesministerien und öffentlichen Verwaltung heißt KIPITZ und basiert auf open source modellen.
 
  • Gefällt mir
Reaktionen: AndreasF1975
Am Ende werden ja vielleicht Modelle von OpenAI, Anthropic oder Google auf diesen Rechnern laufen.

Lt. Anthropics Zahlen ist der Betrieb mittlerweile schon wirtschaftlich. Da die Telekom hier "nur" die Rechenleistung bereit stellt und sie keine eigenen Modelle trainiert und als Verkaufsargument den Serverstandort Deutschland hat, wird das wohl auch ein gutes Geschäft sein.
 
  • Gefällt mir
Reaktionen: Col. Jessep und waldgeist2k
In München? Im Süden, wo ja so viel Windstrom übrig is?

Ja. Wird Zeit für mehrere Strompreiszonen.
 
  • Gefällt mir
Reaktionen: WhoDat
Zurück
Oben