News KI-Training: Quantencomputer sollen 100-mal sparsamer sein

[Alexander2]

100 mal Effizienter .. Was passiert sobald es in der Wirtschaft ankommt, wenn es wirklich so funktioniert?
Was auch immer gemacht wird wird skaliert, das es 100x schneller ist, die gleiche menge oder mehr an energie und ressourcen wird verwendet werden :-)

 

[DonDonat]

Also um Faktor 100 effizienter... Aber es kann nur in kleinen Teilen der Toolkette... Eventuell... Unter Umständen verwendet werden.

Sowas ist nicht nur reichlich optimistisch, sowas ist einfach mal unmöglich.

Wobei die Theorie des Projekts doch ganz nett ist, hätte man hier einfach angekündigt "wir forschen was aus der Neuronal Network Tool Chain man wie mit Q-Bits effizienter machen kann", wäre es immer noch ein interessantes und sinnvolles Forschungaprojekt gewesen, gerade für spezialisierte Modelle die wirklich sinnvolle Sachen machen z.B. Vorhersage von Molekülen.

Aber so mit dem absolut unrealistischen Ansatz mit 100x... Passt es perfekt in die "KI" Blase wo alles immer EXTREM ULTRA MEGA sein muss. Nur Profit reicht nicht. Es muss ALLES sein, am besten ALLES².

Und dabei haben wir die Probleme von "Quantencomputern" noch nicht mal ansatzweise gelöst. In quasi keinem Bereich sind die wirklich nutzbar weil zu teuer, zu wenig skalierbar, technisch zu kompliziert, in der Supply Chain nicht realisierbar, zu ungenau... Da hilft es dann auch nicht, dass Agent Orange per Dekret meint "Jetzt Quantencomputer!!1!", geht halt nicht technisch heute.

Ähnlich wie Kernfusion vielleicht in 50 Jahren. Aber halt nicht heute und nicht morgen. Forschung in dem Bereich ist aber dennoch sehr wichtig, weil nur damit tech is her Fortschritt machbar ist. Bitte aber halt ohne Populismus, weil dass tut der Forschung nur weh. Lieber realistisch und nüchtern, so dass man später nicht negative PR bekommt, wenn beim Wissens Gewinn mal eine Sackgasse oder eine falsche Wendung erreicht wird, was bei Cutting Edge Technik halt absolut normal ist.

 

[Alexander2]

Oh, naja die 100x Effizienter Zahl kann durchaus richtig sein und am ende im Gesamtbild nur 2% Ersparnis bringen...

Gibt bei Softwareoptimierungen auch gerne Erwähnungen von soundso 1000 mal schneller durch optimierung und das ist Technisch auch absolut korrekt. wenn das aber eben nur 3% des gesamten Workload sind, kann es nur den 3% Anteil schneller machen. ist ja klar.

Aber ich habe noch nicht gelesen für wieviel Anteil des Gesamtkonstrukt AI das dann Auswirkungen hat.

 

[Syntax_41]

Hab heut gelernt, das Dunkelheit schneller als Licht ist. prost ^^

Fun Fact: Der einzige Weg, wie „Dunkelheit“ schneller als Licht wirkt, ist ein Schatten, der über etwas Weitentferntes huscht, und der bricht keine einzige Regel, weil er keine Info trägt.

 

[lynx007]

Warum wundert es mich nicht und warum muss ich direkt an dieses Video denken. Ja, anderes Thema, aber gleiche Firma.

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[Pontus]

Dann aber schnell jetzt. Sonst platzt die Blase bevor sie zum Zug kommen. Die kleine Kreis Wirtschaft bekommt so langsam seine Risse…

 

[JaniC]

Und morgen geht der erste Fusionsreaktor ans Netz und löst all unsere Energieprobleme. Not.

 

[JustAnotherUser]

Haben die Rechenzentren eigentlich NPUs oder sind da überall GPUs drin?

Eigentlich versuchen alle KI-Größen sich zu Diversifizieren. Aktuell landet einfach zu viel Marge bei Nvida für viel zu ineffiziente Chips.
OpenAi arbeitet mit Broadcom zusammen und hofft, auch AMD-GPU einbinden zu können
https://winfuture.de/news,148746.html

Microsoft hat Maia, Google ihr "TPU"s, Facebook und Amazon ebenfalls eigene Chips. Bei Anthropic zB weiß ichs gar nicht, nach Kurzrecherche setzen die darauf, in AWS und Google Cloud die dortigen NPU zu nutzen.

Wichtig auch: Tensor Cores bei Nvidia sind keine NPUs, es sind Komponenten der Grafik-Pipeline, die auf KI-Produkten "befreit" werden von Teilen der Pipeline, die KI nicht braucht.
Tensor Processing Units bei Google hingegen sind NPUs

Achtung, gefährliches Halbwissen erinnert aus News der letzten Jahre und kurz abgeglichen mit Perplexity.

Ergänzung (28. Juli 2026)

Das hoffe ich auch: Dass wie beim Crypto Mining damals GPGPU Nutzung einfach unattraktiv ggü. speziell dafür entwickelter Hardware wird.

Ergänzung (28. Juli 2026)

Und dann kommt der nächste Hypecoin, der dagegen optimiert wird, und zB zu viel RAM benötigt, um effizient in ASIC zu laufen o.0

 

[ThirdLife]

Ich kann mir schlicht nicht vorstellen, dass man langsamen "Determinismus" in die Berechnung des Systems wieder einführt, wenn "gut genug" bei der Berechnung ausreicht.

Sprache ist halt nunmal ein nuancierteres Feld wo Probabilismus sicher hilfreicher ist weils eben keine exakte Wissenschaft mit klarer Gleichung ist. Allein schon weil der Endpunkt alles unterschiedlich verarbeitet (wir Menschen).

Ich kann zehn Leuten sagen "du bist hohl" und jeder wird anders reagieren und nicht einheitlich dasselbe zurückgeben. Wie willst du das deterministisch angehen bitte ? 😂

 

[ZeroCoolRiddler]

Das hoffe ich auch: Dass wie beim Crypto Mining damals GPGPU Nutzung einfach unattraktiv ggü. speziell dafür entwickelter Hardware wird.

Erste Bilder angepasster KI Chips sind schon im Netz aufgetaucht

 

[Innocience]

Sprache ist halt nunmal ein nuancierteres Feld wo Probabilismus sicher hilfreicher ist weils eben keine exakte Wissenschaft mit klarer Gleichung ist. Allein schon weil der Endpunkt alles unterschiedlich verarbeitet (wir Menschen).

Davon rede ich nicht. Es geht um die Gewichte des Modells und ob diese 1 zu 1 reproduziert werden können.

Ich kann zehn Leuten sagen "du bist hohl" und jeder wird anders reagieren und nicht einheitlich dasselbe zurückgeben. Wie willst du das deterministisch angehen bitte ? 😂

Es geht nicht um den Output der Modelle sondern das Training. Also bei identischem Training das exakt gleiche Modell zurückzubekommen.

Wovon du redest ist die Inferenz bzw. dem Output des Modells. Der lässt sich sehr simpel deterministisch schalten, wenn du die Zufallssequenz vorgibst oder etwaige Zufallsfaktoren abschaltest. Ich kenne das noch unter dem "Temperatur" Parameter, müsste aber nochmal nachschauen, wie sich das in der Fachliteratur schimpft und was genau das Verfahren für das Randomisieren des Modells angeht. Im simpelsten Fall wirds vermutlich wirklich einfach nur eine gewichtete Selektion oder das Hinzufügen von etwas Noise, der vermutlich mit dem Temperatur Parameter skaliert wird, sein.

 

[Backfisch]

Ich kenne das noch unter dem "Temperatur" Parameter, müsste aber nochmal nachschauen, wie sich das in der Fachliteratur schimpft und was genau das Verfahren für das Randomisieren des Modells angeht.

Einfach die Temperatur herunterdrehen bzw. "Greedy sampling" aktivieren, dann gibt es bei klassischen autoregressiven Sprachmodellen zuverlässig bei gegebenem Input stets den selben Output. Die Randomisierung erfolgt ja erst bei der Auswahl des nächsten Tokens. Wobei der Informatiker in mir kurz davor ist nun darüber zu dozieren, ob ein Computer tatsächlich echten Zufall erzeugen kann Quantencomputer können das natürlich.

 

[ThirdLife]

Davon rede ich nicht. Es geht um die Gewichte des Modells und ob diese 1 zu 1 reproduziert werden können.

Es geht nicht um den Output der Modelle sondern das Training. Also bei identischem Training das exakt gleiche Modell zurückzubekommen.

Wovon du redest ist die Inferenz bzw. dem Output des Modells. Der lässt sich sehr simpel deterministisch schalten, wenn du die Zufallssequenz vorgibst oder etwaige Zufallsfaktoren abschaltest. Ich kenne das noch unter dem "Temperatur" Parameter, müsste aber nochmal nachschauen, wie sich das in der Fachliteratur schimpft und was genau das Verfahren für das Randomisieren des Modells angeht. Im simpelsten Fall wirds vermutlich wirklich einfach nur eine gewichtete Selektion oder das Hinzufügen von etwas Noise, der vermutlich mit dem Temperatur Parameter skaliert wird, sein.

Genau, und der Kernpunkt ist ja: das Problem sitzt nicht mal beim RNG/Seed selbst (den kannst du fixen), sondern in der Nichtassoziativität von Floating-Point-Operationen bei paralleler Reduktion auf der GPU. (a+b)+c ≠ a+(b+c) bei Floats, und welcher Thread seine Teilsumme wann committed ist nicht deterministisch garantiert - dazu kommt Kernel-Autotuning (cuDNN wählt zur Laufzeit die schnellste Implementierung, nicht immer dieselbe). Über Millionen Trainingsschritte schaukeln sich diese Mikro-Rundungsdifferenzen dann zu spürbar unterschiedlichen Gewichten auf. Es gibt zwar deterministische Modes, die exakt das erzwingen, aber die kosten massiv Performance – deshalb macht das in der Praxis bei großen Modellen keiner.

Einfach die Temperatur herunterdrehen bzw. "Greedy sampling" aktivieren, dann gibt es bei klassischen autoregressiven Sprachmodellen zuverlässig bei gegebenem Input stets den selben Output. Die Randomisierung erfolgt ja erst bei der Auswahl des nächsten Tokens. Wobei der Informatiker in mir kurz davor ist nun darüber zu dozieren, ob ein Computer tatsächlich echten Zufall erzeugen kann Quantencomputer können das natürlich.

Stimmt für Inference, aber Innocience meinte eigentlich was anderes (glaube ich?) - nicht den Sampling-Zufall bei der Token-Auswahl, sondern ob zwei identische Trainingsläufe bitgenau dieselben Gewichte produzieren. Und da wirds spannend, weil selbst mit fixem Seed die eigentliche Zufallsquelle woanders sitzt: in der Nichtassoziativität von Float-Additionen bei paralleler Gradienten-Akkumulation auf der GPU. Reihenfolge der Thread-Reduktion ist nicht deterministisch garantiert, plus Kernel-Autotuning wählt situativ unterschiedliche Implementierungen.

Zur Quantencomputer-Thematik: da wär die Frage eher, ob du bei sowas echten Zufall überhaupt willst - für reproduzierbares Training ist im Gegenteil "möglichst wenig echter Zufall" ja das Ziel.

 

[SaschaHa]

Mal angenommen, es sei tatsächlich 100 mal effizienter und zugleich fehlerfrei und massenhaft verfügbar. Dann würden die Unternehmen halt 100 mal mehr Iterationen bzw. Trainingsdaten verwenden, um die eigene KI damit ein paar Prozentpunkte intelligenter zu machen.

Fakt ist doch, dass der Mensch dazu neigt, seine Möglichkeiten ausschöpfen, um sich selbst oder dem eigenen Unternehmen einen Vorteil zu verschaffen, ganz egal wie gering dieser auch sein mag.

 

[[EH]Keeper]

Quantencomputer... effizienter, schneller... .... klingt alles prima... aaaaber: "can it run doom"?

 

[Muntermacher]

@[EH]Keeper Nich mal den Gag richtig hinbekommen........

 

[RKCPU]

Weckt mich, wenn Quantencomputer wirklich ein Problem lösen. So klingt das so, als ob die Quantenfritzen verzweifelt auch was vom großen KI-Kuchen haben wollen.

Den großen KI-Kuchen gibt es gar nicht, bisher nur Beschaffung mit Investorengeld.
Am Ende wird eh alles -95% bis -99% billiger werden müssen um auskömmliche Umsätze durch zahlende Kunden zu erreichen.

Vorteil, der Quantencomputer dürften dann 48 GB DDR6LPx bezahlbar in den 2030er Jahren machen.

 

[bart1983]

Schön dass das KI-Training noch effektiver wird.

Schließlich braucht die Welt Nichts mehr als noch mehr KI-Content, KI-Replacement von HR und leichteres trainieren von Militärrobotern.

Erste Bilder angepasster KI Chips sind schon im Netz aufgetaucht

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[Gravlens]

...deshalb kompensiert nichts davon irgendetwas, sondern beide erzeugen zusätzliche Fehlerquellen.

Wie kann man diese Aussage ernst nehmen?

Das war doch ganz offensichtlich ein Scherz und sicher nicht ernst gemeint.^^

 

[pioneer3001]

Das Projekt klingt nach absichtlicher Geldverschwendung. Die beteiligten wissen ganz genau dass speziell Sprachmodelle und Diffusionsmodelle memory-bound und nicht compute-bound sind. Es geht nicht um schnelle Berechnungen, sondern um schnellen großen Speicher. Quantencomputer sind aber nur für compute-bound. Und selbst das ist heute noch Theorie. Es ist sehr unwahrscheinlich dass sie je für memory-bound tauen werden. Es geht mal wieder darum Geld vom Steuerzahler zu privaten Taschen zu lenken. Das ist genau das gleiche Prinzip wie Techbros Geld von Bürgern in Massen einsammeln können. Indem sie den Bürger gar nicht um das Geld fragen, sondern durch Staatsaufträge die Steuern der Bürger abzweigen. Das ist nicht nur bei den Oligarchen bei Putin so, sondern im Westen genauso. Stell dich gut mit der Obrigkeit eines Landes und nimmt das Geld der Bürger ohne sie zu fragen.