News OpenAI: Sam Altman fehlen nur noch 99 Millionen GPUs

Also ich frag mich dann ja schon: Wozu? Klar, haben ist besser als brauchen, aber denk mal einer an die rein physischen Tatsachen: Jede GPU und jedes Rack braucht Platz. Gleichzeitig ist Latenz ein kritisches Bottleneck, das jetzt schon ordentlich Aufwand bereitet, damit große Systeme gescheit funktionieren - in solchen Größenordnungen ist das aber eine ganz neue Hausnummer.

Da darf man dann entweder ein zweites "Netz" drüber bauen, wo alles mit allem per Glasfaser verbunden ist, oder man schaut zu, wie die Leistung rapide absinkt, weil sich die Latenzen für jedes Node/Rack/Pod/Cluster/Wasauchimmer dann doch läppern.

Ich mein: Da will man millionen Geräte über lange Distanzen mit >=900GB/s kommunizieren lassen, und das mit Latenzen im Mikrosekunden-Bereich... sportlich sportlich.

hennich schrieb:
Wäre echt super wenn man Grafikkarten auch benutzen kann für das sie vorgesehen sind - für Grafik.
Da frag ich mich ja schon, wer das größere Luxusproblem hat; Der Altman mit seinen 100 millionen GPUs, oder du, dem das Spielzeug zu teuer ist.

Aber mach dir da keine Sorgen, der wird seine Server sicherlich nicht mit AMD-GPUs füllen, da ist also alles "im grünen Bereich". :P

Christock schrieb:
Dazu fällt mir nur Folgendes ein:
Dazu fallt mir auch nur folgendes ein: Thread lesen, anstatt mit Memes nach Likes fischen: #35

michelthemaster schrieb:
Was für eine absolute kranke, sinnlose und zerstörerische Verschwendung...
Jährlich werden Milliarden Smartphones weggeworfen; Selbst wenn der seine 100 Millionen GPUs bekäme, wäre das eine deutlich sinnvollere Investition (für die Menschheit), als Verbraucherelektronik in Masse. Selbst wenn AI "platzt", hat man da am Ende immer noch einen/viele nützliche Supercomputer da stehen.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: calippo
cfreak84 schrieb:
Wenn KI ganz viele Menschen in die Arbeitslosigkeit befördert, wer erwirtschaftet dann das Geld, um die KI-Dienstleistungen zu bezahlen?
die KI
 
hennich schrieb:
Was ich einfach nicht kapiere, warum koppelt man diesen Ki, Bitcoin Schürfer was auch immer Markt, endlich mal ab ?
Warum sollte man das tun?
Die Fabriken können sowohl Gaming- als auch KI-Beschleuniger bauen. Die Fertigungskapazitäten scheinen aktuell der Flaschenhals zu sein.
Wenn du Karte A für 10.000€ verkaufen kannst und Karte B für 2500€, bei beiden die Nachfrage das Angebot deutlich übersteigt, welche von beiden würdest du hauptsächlich fertigen lassen?
In genau der Situation befindet sich Nvidia gerade:
Streng genommen machen sie mit jeder verkauften RTX 5090 Verlust, denn der GB202 Chip auf dieser Karte hätte auch eine RTX PRO 6000 Blackwell werden können, welche sie für 10.000€ verkaufen.
...Von den "richtigen" Datacenter GPUs und deren Preisen reden wird da noch garnicht.
 
Ich weiß schon, dass in Sachen Miniaturisierung, Fertigung und Energieeffizienz nicht mehr so viel rauszuholen sein wird. Einige Strukturgrößen sind nur mehr wenige Atome breit. Dennoch wirkt es absurd auf Basis jetziger Technologie irgendwas auf upotische Größe skalieren zu wollen. Man stelle sich vor man hätte das seinerzeit mit Röhrencomputern gemacht..

Entweder man schafft ensprechende Effizienzsteigerungen, oder man kann sich die großen Pläne in die Haare schmieren.
 
  • Gefällt mir
Reaktionen: Kitsune-Senpai
Bei solchen Themen wird mir immer wieder vor Augen geführt wir in nahezu jeder Zukunftsbranche hier in Deutschland absolut gar nichts zu melden haben. Derart viel Technologiefeindlichkeit in einem Forum für IT ist der Inbegriff des deutschen "Brauchen wir nicht, wir haben das immer schon so gemacht".
 
  • Gefällt mir
Reaktionen: calippo, PieczonyKurczak, iron-man und 2 andere
5 Gigawatt? Das ist mehr, als man für vier Zeitreisen gleichzeitig brauchen würde.
(Wie wir seit 1985 wissen, braucht man dafür nur Sekundenbruchteile lang 1,21 Gigawatt und einen DeLorean der knapp 142km/h fährt. Sollte kein großes Problem mehr sein, seit es den als Elektrofahrzeug gibt.)

Aber mal ernsthaft? Ich bin mir sicher, man könnte mit der Menge, die das alles an Energie benötigt etwas sinnvolleres machen als textbezogene Wahrscheinlichkeitsrechnung.
 
  • Gefällt mir
Reaktionen: Alphanerd
Leitwolf22 schrieb:
Ich weiß schon, dass in Sachen Miniaturisierung, Fertigung und Energieeffizienz nicht mehr so viel rauszuholen sein wird. Einige Strukturgrößen sind nur mehr wenige Atome breit. Dennoch wirkt es absurd auf Basis jetziger Technologie irgendwas auf upotische Größe skalieren zu wollen. Man stelle sich vor man hätte das seinerzeit mit Röhrencomputern gemacht..

Entweder man schafft ensprechende Effizienzsteigerungen, oder man kann sich die großen Pläne in die Haare schmieren.

Naja, damals kamen dann halt Transistoren auf, hätte es die nicht gegeben, wären die Röhrencomputer sicher weiter gewachsen.
Allerdings gab es bei Röhren ganz andere Probleme, die Dinger halten nicht lang, kannst also nicht ewig skalieren, da du irgendwann nur noch mit Wartung und Austausch defekter Röhren beschäftigt bist.
Den Energiebedarf lass ich jetzt mal außen vor.
 
Boulettendieb schrieb:
Den Energiebedarf lass ich jetzt mal außen vor.
Das gute daran, Energie kann nicht verbraucht werden.
Würde man diese Computer mit z.B. Sonnenenergie betreiben und die dabei entstehende Abwärme wieder für etwas anderes nutzen wäre die Bilanz sogar positiv... - ist in Rechenzentren auch machbar und einige machen es auch schon.

AlMustansir schrieb:
Derart viel Technologiefeindlichkeit in einem Forum für IT ist der Inbegriff des deutschen "Brauchen wir nicht, wir haben das immer schon so gemacht".
Niemand hier wird bestreiten dass KI für einige Sachen ganz nützlich sein kann, allerdings sehen einige hier nicht nur die Vorteile, sondern auch die reale Gefahr wenn diese grossflächig für anderes als Spielereien eigesetzt wird.
In einer perfekten Welt gäbe es sicher weniger Bedenken, dass man eine KI ab einem bestimmten Level nicht mehr wirklich kontrollieren kann bleibt aber immer bestehen.

Aber keine Sorge, die Generation unter 30 wird es noch früh genug erleben (früh genug = zu spät...) und lange genug mit den "Vorteilen" leben müssen (wenn sie Glück, oder Pech hat, je nach Standpunkt).
 
  • Gefällt mir
Reaktionen: gartenriese, cruscz, Vigilant und eine weitere Person
Nvidia und Atomkraftwerke-Bauer werden sich freuen

Wird an der Zeit die Fernwärme auszubauen
 
@Robo32
Die Abwärme von Röhren kannst schlecht nutzen, die haben ne Wohlfühltemperatur, zu kalt und sie funktionieren nicht richtig, zu warm und sie machen schnell die Hufe hoch.
Mit Wasser kühlen läuft gleich gar nicht.
Dick eingepackt in Technik dürfen die auch nicht sein, da man sie schnell wechseln können muss.
Also hast am Ende etwas wärmere Luft, die oben aus dem Gerät steigt, aktiv durchblasen und ableiten ist nicht..
Alte Radios etc. sind so konstruiert, dass die Röhren es innen angenehm haben, durch entsprechende Luftführung.
 
Ich bitte um Nachsicht, dass ich nicht erst den gesamten Thread lese, bevor ich antworte (also für möglicherweise bereits mehrmals Geschriebenes ^^)

Galatian schrieb:
Das ist so eine krasse Blase wie damals DotCom.
Auf die im Artikel referenzierte Zielzahl für installierte GPUs mag das zutreffen. Nvidia und alle am Aufbau der KI-Kapazitäten allerdings machen den Umsatz tatsächlich heute und täglich. Auch dieser wird wieder zurückgehen oder, was ich annehme, eines Tages aufgrund irgendeines Ereignisses auch mal "einbrechen". Aber bis dahin machen alle KI-Infrastruktur Provider reelles Geschäft.

Will sagen: Ich meine, die Blase ist im .com-Vergleich kleiner und umfasst vor allem die KI-Service-Provider.
 
  • Gefällt mir
Reaktionen: Galatian
Vigilant schrieb:
Ich glaube, da fällt es schon schwer, die genauen Auswirkungen gut abzuschätzen. Aber wenn bspw. breiteres Expertenwissen zunehmend digitalisiert, skalierbar und angepasst für beliebig viele Kunden mittels KI-Agenten zur Verfügung gestellt werden kann, dürfte der Impact gravierend sein.

Und die KI-Produkte wie heute bspw. ChatGPT dürften dagegen wie Nonsens anmuten. Medizin, Militär, Verwaltung, Planung, Forschung etc. bekämen u. U. ganz neue Ausprägungen.

Das ist vermutlich auch die Vision, welche diese irren Investitions-Absichten treibt.
Ich kann mir gut vorstellen, dass die KI Firmen ganz genau wissen, was für finanzielles Potenzial sich dahinter verbergen kann.
Angenommen man verkauft einer Firma KI Leistung für 50.000€ im Jahr, diese ist aber in der Lage einen Softwareentwickler (oder wen sonst auch immer) mit einem Jahresgehalt von 100.000€ zu ersetzen.
Dann rechnet sich das für beide Seiten sehr schnell und die enormen Kosten für die Rechenzentren wären auch ratzfatz bezahlt.
Das macht mir allerdings etwas Sorge, abgesehen davon, das menschliche Arbeit dadurch obsolet würde, könnte Altmann auch gerade beginnen Skynet zu bauen.
Bleibt zu hoffen, dass man wenigstens die Asimovschen Robotergesetze mit einbaut.
 
Bright0001 schrieb:
Dazu fallt mir auch nur folgendes ein: Thread lesen, anstatt mit Memes nach Likes fischen: #35
Danke, hatte ich wohl übersehen, ich habe meinen Beitrag entsprechend bearbeitet.
Die Unterstellung hätte es trotzdem nicht gebraucht.
 
  • Gefällt mir
Reaktionen: gartenriese
Syrato schrieb:
So rechnet man nicht mit einem Gebrauchsgegenstand.
Alte Hardware zum Spaß haben findet man vieles und auch relativ günstig im Vergleich zum Originalpreis.
Ich habe lange überlegt ob ich nicht auf Epyc aufbaue 7000er Serie + Mainboard + 256GB RAM waren vor zwei Jahren schon für 1000-1500€ + Zoll zu haben.

Heute mit Solar ist das durchaus Spielzeug welches man sich in Jahren anschauen kann, wenn die Preise stimmen (was ich nicht glaube) :D
 
Drahminedum schrieb:
Ihr könnt euch alle ausmalen, was das für die Preise von Gamer-GPUs bedeutet.

4090 = 2000 EUR
5090 = 3000 EUR
6090 = 4000 EUR

Ich glaibe, trotzdem würde sich die 6090 dann gut verkaufen, weil sie halt von Nvidia ist.

Aber mal was anderes: Wo soll denn der ganze Strom herkommen?

Und das ist sicherlich auch nicht gut für das Klima.
 
  • Gefällt mir
Reaktionen: Drahminedum
neutrongummi schrieb:
Versteh nicht, wo die Blase sein soll. OpenAI hat die Karten ja bezahlt.
Und wie refinanzieren sie ihre Investitions dann?

Irgendwo muss die Trillion Dollar ja dann auch wieder herkommen die Google, Open AI, etc wohl in AI stecken werden. Und da sich das auf recht viele Unternehmen verteilt, brauchen die Unternehmen dafür hunderte von Millionen von Einnahmen durch Ai für Alphabet, Amazon, Meta, und Microsoft. Und entsprechend immer noch Milliardenbeträge für viele der kleineren AI Firmen. Aktuell scheint noch nicht viel Umsatz bei der ganzen Geschichte rumzukommen, außer natürlich für Nvidia, TSMC, etc die die Hardware für AI bauen.

Das es irgendwann Gewinne geben wird ist fast sicher, das es Gewinne für alle Beteiligten geben wird ist fast ausgeschlossen. Das ist die Blase, die Investitionen könnten es sehr schwer haben sich für die meisten Marktteilnehmer auszuzahlen, eben genau so wie zur Dot.com Phase.

BTW, wenn Altmann meint er braucht noch 99 Millionen mehr GPUs, meint der damit wirklich das er 4 Trillionen US Dollar in seine Forschung stecken möchte/muss bevor AGI dann tatsächlich greifbar ist?


Ergänzung ()

linom1 schrieb:
Der Markt entsteht doch gerade erst, aber was wenn die erste KI Wirkstoffe findet die es sonst nicht geben würde oder eine Warnung vor einem Hurricane ausgibt und Tausende Menschen rettet, die es sonst nicht gegeben hätte.
Dann habe einen Wirkstoff, den ich dann erstmal auch rausfinden muss wie ich den gewinnbringend fertigen kann UND dann habe ich auch noch das Problem das ich auf selbigen kein Patent anmelden kann. Am Ende habe ich einen Wirkstoff, den jeder sofort als Generica kopieren kann und der unter Umständen andere Medikamente mit dem ein Pharma Konzern gutes Geld verdient obsolete macht. Aber immerhin, eventuell kann ich aufs verfahren wie er gefertigt wird dann noch ein paar Patente anmelden und so Gewinn machen.

Oder anders ausgedrückt, wird wahrscheinlich dann nie veröffentlicht werden, es sei den eine nonprofit Org lässt die AI dafür laufen. Traurig, oder?
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: gartenriese
Und wann soll das Ganze gegen finanziert werden? So etwa.... 1000 Jahre? Schon heute verbrennen "KI" Firmen so unendlich viel Geld, dass es in absehbarer Zukunft keine Refinanzierung geben wird. Mit noch weiter steigenden Verbrennungen, wird das Ziel irgendwie mal schwarze Zahlen zu schreiben immer und immer und immer weiter verschoben.

Solche Ankündigung wie hier sind schlicht... Halluzination. Damit steht Altman seinem Produkt in nichts nach, wobei er nicht nur ab und an sondern am laufenden Band halluziniert. Solang das Ponzi Scheme aber funktioniert und er nicht ins Nichts verklagt wird alles OK, hier gibt es nichts zu sehen! Weiter "investieren" und nicht drüber nachdenken!

Am interessantesten an der Ganzen Sache ich eigentlich, dass ein Großteil der Investoren wirklich noch nicht verstanden hat, dass sich die aktuell gehypte Version von "KI" niemals refinanzieren kann und somit schlicht nicht haltbar ist. Einige wie der Softbank CEO glauben wohl dass sie fast alle Angestellten zu nem Bruchteil der Kosten ersetzen können, was weder finanziell möglich ist noch logisch, während andere wahrscheinlich hoffen wie bei jedem Krypto Scam noch vor dem Crash drin zu sein und wieder andere verstehen schlicht nicht was sie da "gamblen". In der Summe aber ist "KI" dann die größte Finanz Verschwendung der jüngsten Vergangenheit und Zukunft... Bis irgendwer tatsächlich sinnvolle und finanziell tragbare "KI" Systeme entwickelt. Bis dahin aber... Heißt es erst mal warten und der Blase weiter beim wachsen zusehen.
 
  • Gefällt mir
Reaktionen: gartenriese
DonDonat schrieb:
In der Summe aber ist "KI" dann die größte Finanz Verschwendung der jüngsten Vergangenheit und Zukunft.

Nicht nur das.

Denkt vielleicht auch mal einer an de Energie, die KI benötigt?

Dabei wird uns doch allen eingebläut, dass für was für das Klima tun müssen.

Das widerspricht sich ja ziemlich.
 
  • Gefällt mir
Reaktionen: gartenriese und Hatsune_Miku
Zurück
Oben