News „Unverantwortlich“: Jensen Huang wirft KI-Warnern Panikmache vor

@Perdakles

Daher der Hinweis dass es sich zu wandeln beginnt. Halte aber die wirtschaftliche Lage aber auch tatsächlich für gar nicht so relevant. Solange die Modelle spürbar Fortschritte machen wird das Geld auch fließen.
 
nutrix schrieb:
Sicher, aber der Verlust von Arbeitsplätzen oder Änderung der Arbeitswelt ist auch nichts neues oder gar so bedrohliches, was die Existenz der Menschheit in Frage stellt.

Damals als die Motoren und Dampfmaschinen die Menschen- und Tierkraft ersetzten, war auch Panikmache. Näher erinnere ich mich an Projekte von Kollegen, als diese in den 80ern alle Lochkartenkartenstanzerinnen (nur Frauen hatten das damals gemacht) arbeitslos machten, weil Terminals und Drucker dann als Ersatz eingesetzt wurden. Und? Wenn man das rückwirkend betrachtet, hat es eher mehr genutzt und die Entwicklung vorangetrieben als geschadet.

Klar, Auswirkungen hat alles, auch KI. Aber ob es dann positive oder negative Effekte haben wird, hängt von den Menschen ab, die das bedienen.

Da bin ich vollkommen bei dir und du hast einen wichtigen Punkt.

Mit deiner Priorisierung hast du recht, das Auslöschungsrisiko muss oberste Priorität haben. Bei einem so hohen negativen Erwartungswert ist selbst ein kleiner Prozentsatz nicht mehr ignorierbar, das stimmt. Dein Hausriss Vergleich passt da wirklich gut.

Aber genau deshalb darf man die schleichende Bedrohung die parallel dazu bereits läuft nicht unterschätzen. Denn beide Risiken sind miteinander verbunden. Wir reden hier nicht von einem entweder oder. Genau die schleichende KI Ausbreitung in kritische Bereiche ist ja der Weg über den auch das große Risiko real werden kann. KI im Militär ist da das beste Beispiel. Wenn KI Systeme in immer mehr Waffensystemen, in Zielauswahl, in Frühwarnsystemen, in autonomen Drohnen eingesetzt werden, dann steigt mit jeder weiteren Integration die Wahrscheinlichkeit dass irgendwann mal der rote Knopf gedrückt wird. Nicht weil eine KI böse ist, sondern weil eine Fehlinterpretation, ein Bug, eine falsche Mustererkennung reicht.

Und diese Wahrscheinlichkeit ist meiner Meinung nach längst nicht mehr bei 0,1 Prozent. Wenn wir in dem Tempo weitermachen wie jetzt, wenn KI weiter so aufgepusht wird ohne echte Regulierung, ohne echte Kontrolle, ohne dass die Verantwortlichkeiten geklärt sind, dann ist die Wahrscheinlichkeit deutlich höher. Vielleicht 1 Prozent, vielleicht 5, vielleicht mehr. Niemand weiß es genau und genau das ist das Problem.

Es gab in der Vergangenheit schon mehrfach Situationen in denen die Welt nur knapp am Atomkrieg vorbei geschrammt ist, weil ein einzelner Mensch, ein Stanislaw Petrow zum Beispiel, sich gegen die Anzeige seines Frühwarnsystems entschieden hat und nicht meldete was das System behauptete. Ein Mensch mit Bauchgefühl, Erfahrung und Verantwortungsgefühl. Wenn diese Rolle in Zukunft eine KI übernimmt, gibt es niemanden mehr der aus Menschlichkeit heraus zögert. Die Maschine meldet was ihre Statistik sagt und dann läuft der Automatismus weiter. Genau da wird das theoretische Auslöschungsrisiko sehr schnell sehr real.

Natürlich sind das erstmal Horrorszenarien und liegen noch in der Zukunft, das will ich gar nicht anders darstellen. Aber mit dem momentanen Tempo bei dem KI überall reingedrückt wird kann das schneller Realität werden als uns lieb ist. Und ich denke genau das ist es was die KI Unternehmen wie Anthropic oder OpenAI mit ihren Warnungen eigentlich sagen wollen. Die sitzen ja am nächsten dran, die sehen jeden Tag wozu ihre eigenen Systeme fähig sind und wie schnell sich das entwickelt. Wenn ausgerechnet die anfangen laut zu warnen und freiwillige Verlangsamung fordern, dann sollte man das nicht als Marketing abtun, sondern als ernst gemeinten Weckruf verstehen. Die haben ja am wenigsten Grund die eigene Branche schlecht zu reden, außer sie sehen wirklich etwas was uns von außen noch nicht so klar ist.

Also ja, ich bin bei dir. Erst Auslöschung verhindern, dann Rest. Aber die Verhinderung des großen Knalls fängt genau bei der Regulierung der schleichenden Ausbreitung an. Beides gehört zusammen und deshalb ist beides Prio 1.
 
Perdakles schrieb:
Zitat aus dem Link:

"Anthropic's gross margins are above 80% before accounting for revenue shared with distribution partners, including Amazon (AMZN.O), opens new tab, ‌and ⁠the cost of training its model, the newspaper said."

Da sie nicht sagen, um welchen Betrag sie die Marge bereinigt haben. kann das alles und nichts bedeuten. Warten wir mal ab, ob sie wirklich bis Ende des Jahres an die Börse gehen. Erst dann haben wir neutrale Zahlen die vergleichbar sind.
Vor allen Dingen, Marge bezogen auf was? Soweit mir bekannt ist, wird überall die Verwendung der LLMs für andere von allen Herstellern kräftig quersubventioniert.
 
Was sonst soll dieser gute Herr dazu sagen? Sein ganzes Unternehmen zählt nun drauf dass die KI Branche bei ihm einkauft…
 
Die kollektive Forderung nach Regulierung ist insbesondere auch die Forderung die Verantwortung zu übertragen und wirtschaftliche Schäden zu nivellieren.

OpenAI, Anthropic, Alphabet, SpaceXAI und Co. wollen nicht zur rechtlichen Verantwortung gezogen werden, wenn deren AI-Agenten im Trainingszirkus komplett frei drehen und unsere Infrastruktur kaputt spielen, gleichzeitig können sie, da sie den Gesetzen des Kapitalmarktes unterstehen, nicht von sich aus ohne Gesetzesgrundlage langsamer machen, dann riskieren sie im einzelnen höchst individuell damit Bankrott zu gehen.

Jensen Huang hat natürlich ganz andere Ziele, er will die Zirkusmanege weiterhin verkaufen, jede Regulierung oder Bremse in der Entwicklung ist für seine Bilanz pures Gift.

Donald Trump / die USA als Staat haben auch ein ganz anderes Ziel als die anderen Akteure, er bzw. die USA muss den technologischen Wettbewerb mit China gewinnen, wenn sie ihre Deutungshoheit und wirtschaftliche Präsenz in dem Bereich behalten wollen.

Bleibt spannend. Wenn die Damen und Herren Ingenieure wissen möchten, was eine Sandbox tatsächlich ist und wie man die aufbaut, schickt mir einfach eine PM, ich erkläre euch gerne den Unterschied zwischen Vertrag, Zaun mit Tor und einem unüberwindbaren Graben voller Lava und Lava-Haien mit Laserkannonen, die alles kaputt schießen, was in die Nähe vom Graben kommt.
 
  • Gefällt mir
Reaktionen: Perdakles und Grundkurs
Lazo53 schrieb:
Da bin ich vollkommen bei dir und du hast einen wichtigen Punkt.

Mit deiner Priorisierung hast du recht, das Auslöschungsrisiko muss oberste Priorität haben. Bei einem so hohen negativen Erwartungswert ist selbst ein kleiner Prozentsatz nicht mehr ignorierbar, das stimmt. Dein Hausriss Vergleich passt da wirklich gut.
:
Also ja, ich bin bei dir. Erst Auslöschung verhindern, dann Rest. Aber die Verhinderung des großen Knalls fängt genau bei der Regulierung der schleichenden Ausbreitung an. Beides gehört zusammen und deshalb ist beides Prio 1.
Ich behaupte mal, daß wir uns selbst mit Hilfe von KI auslöschen ist wesentlich höher als das eine KI von sich aus der Initiator ist.

Viele Zukunftsforscher wie in der SF einige Autoren haben viele Punkte vorhergesehen:
  • Überbevölkerung
  • Kampf um Informationen und Deutungshochheit
  • Kampf um Ressourcen
  • ...
Das was Menschen aktuell mit Hilfe von KI tatsächlich anrichten können ist viel näher. Als Beispiel nenne ich die ganze Desinformationskampagnen feindlicher Länder mit Fakenews und Co., die bereits heute existiert. Aufgrund der damit geschaffenen Desorientierung schafft man Einflüße bei Wahlen, Entscheidungen usw. Man sieht ja gerade in den USA ein Paradebeispiel, die durch diese Fakeinfos fatale wie falsche Entscheidungen treffen. Das wird der Menschheit eher den Kopf kosten als durch eine Entscheidung durch eine KI.
 
  • Gefällt mir
Reaktionen: SweetOhm
nutrix schrieb:
Ich behaupte mal, daß wir uns selbst mit Hilfe von KI auslöschen ist wesentlich höher als das eine KI von sich aus der Initiator ist.
So sieht es aus und hat bereits angefangen.
 
  • Gefällt mir
Reaktionen: nutrix
@Haldi: Oder gerne geklaert haben wollen was mit den ganzen Arbeitnehmern passieren soll die womoeglich ihre Jobs verlieren, und dann oft nicht einfach auf einen noch nicht wegautomatisierten Job wechseln koennen.

Der Kapitalismus, insbesondere mit dem ganzen KI Wahnsinn der auf wirklich nur eine kleine Handvoll "Megafirmen" hinauslaufen wird, ist wunderbar dazu in der Lage "Geld zu fressen" und es den Sozialsystemen zu entziehen.
nutrix schrieb:
Damals als die Motoren und Dampfmaschinen die Menschen- und Tierkraft ersetzten, war auch Panikmache.
Wenn man mal in die Geschichtsbuecher schaut findet man relativ schnell was damals los war.
Aufstaende, Revolutionen, Kriege. Befoerdert dadurch, das in relativ kurzer Zeit relativ viele Menschen ohne Arbeit waren.
Damals alles noch in verhaeltnissmaessig kleinem Rahmen, weil es die modernen Massenvernichtungswaffen noch nicht gab. Wobei die hohe Arbeitslosigkeit in Deutschland durchaus auch noch fuer den zweiten Weltkrieg eine Rolle gespielt haben duerfte, bzw. dafuer die Bedingungen zu schaffen das er losgehen konnte.

Ein solcher Aufstand, an der falschen Stelle ausgebrochen, und es wird schnell zappenduster. Auch auf der anderen Seite der Welt.
 
Lazo53 schrieb:
Also wenn ich das lese muss ich ehrlich sagen, das ist genau das was ich meine wenn ich sage die Debatte läuft schief. Und zwar auf beiden Seiten.

...
Damit ist eigentlich alles gesagt.

"Null-Prozent-Chance" möglicherweise für ein naives Terminator Szenario. Ich glaube, die Menschen vergessen zu schnell, dass nicht die ganze Welt untergehen muss. Nur die eigene...
 
  • Gefällt mir
Reaktionen: nutrix
Meine Vermutung in dem Regulierungs- und Panikdebatte liegt eher darin:
https://tobias-schnitzler.com/insights/ki-auf-pump-was-ki-wirklich-kostet/
Der am besten dokumentierte Fall stammt von einem Entwickler, der acht Monate lang mitprotokolliert hat (Juni 2025 bis Februar 2026, rund 10 Milliarden Token über Hunderte von Sitzungen). Sein Ergebnis, veröffentlicht im Februar 2026: Für die tatsächlich bezahlten rund 800 Dollar Abogebühr hätte er zu API-Listenpreisen über 15.000 Dollar zahlen müssen. Im Spitzenmonat Juli 2025 allein lag der Listenwert bei 5.623 Dollar — bei einer Monatsgebühr von 200 Dollar. Ein zweiter, unabhängig veröffentlichter Fall kommt bei 440 Sitzungen auf rund 1.588 Dollar Listenwert in einem Monat mit 200-Dollar-Abo.
Ich war letztens auf einem KI-Workshop mit Microsoft und Azure-Cloud. Dort wurde auch von den MS-Kollegen unumwunden zugegeben, daß sie ein Mehrfaches dieser Kontingente intern verbraten, um diverse Probleme zu lösen oder Anwendungen zu skizieren, weil sie nicht reguliert sind.

Meiner Meinung nach merken jetzt alle Anbieter, daß sie aktuell kräftig drauflegen, nur einen Bruchteil der Kosten überhaupt wieder reinholen können, und nun versuchen sie, diesen Zug irgendwie wieder aufzuhalten. Aktuell wird das alles auf Pump finanziert und quersubventioniert, und das wird KI sicherlich nicht aufhalten, aber das die ganze Logistik dahinter ist die eigentliche Blase.
 
  • Gefällt mir
Reaktionen: Haldi
Sowohl die krasse Verharmlosung von KI als auch die Scaremongering-PR sind am Ende Geschäftsstrategien. Nvidia will, dass mehr in KI investiert wird - denen ist nicht so wichtig, wer führend ist, solange sie ihre Hardware verkaufen.
Aber Firmen wie OpenAI, die gerade vorne mit dabei sind, wollen ihren Vorsprung zementieren, indem sie sich für Regulierungen einsetzen, die ein Nachrücken von weiteren Firmen verlangsamen sollen. Um die tatsächlichen Gefahren für die Gesellschaft geht es denen dabei nicht.
Ein anderer Aspekt des Scaremongering ist auch ein Hype-Faktor. Quasi wie "guckt mal wie krass unsere Modelle sind! So krass, dass wir sie selbst kaum kontrollieren können!".
 
This idiot CEO of NV only thinks about making as much money as possible without considering the consequences for other people and the environment;-(...

I won’t be surprised that it was his teams who launched Bitcoin at the time, just to line their pockets, against a backdrop of artificial material crisis for which they alone are responsible.

He is unfortunately, it seems, a man without beliefs or morals.
 
Faultier schrieb:
Aber Firmen wie OpenAI, die gerade vorne mit dabei sind, wollen ihren Vorsprung zementieren, indem sie sich für Regulierungen einsetzen
Dem kann ich nicht mehr ganz zustimmen, weil momentan alle AI-Firmen in den USA um Regulierung regelrecht betteln und das Forschungsinstitute und Unabhängige auch unterstützen. Da geht es nicht mehr um einzelne Firmen an der Spitze, es geht um die Sache an sich.
 
Voll Gas. Keine Zeit den Chinesen geben das sie aufschließen können :) Habe persönlich nichts gegen die Reise gern in ihr Land
 
  • Gefällt mir
Reaktionen: nutrix
bin auch dafür das wir es ohne Regeln und Verstand weiterlaufen lassen, aber nur unter der Voraussetzung, das NV und Lederjacke privat vollständig für entstehenden Schäden durch KI und den KI Boom haftet.

Also auch Umweltschäden, psychologische und physiche Schäden etc.
 
@Sebbi
Dann hätte man genauso mal alle Erdölkonzerne und Atomkraftbetreiber für die Klimakatastrophe genauso haftbar machen müssen, von der Lebensmittelindustrie mit Schäden bei der Volksgesundheit durch Adipositas mal ganz zu schweigen. Das wäre ein Faß ohne Boden.
 
nutrix schrieb:
Was nützt die Regulierung in der USA, wenn andere Länder wie China und Co. nicht mitmachen? Der theoretisch leistungsfähigste Rechner steht aktuell in China
https://www.heise.de/news/China-ueb...p500-Supercomputer-2-2-Exaflops-11340555.html
Gibt mehrere Möglichkeiten. Einerseits haben die USA Labs schlichtweg aktuell noch einen Vorsprung. Man könnte die Entwicklung verlangsamen ohne den Vorsprung vollständig einzubüßen. Könnte aber ein schwieriger Drahtseilakt werden.

Dann wäre es möglich die Lieferkette für Chips entsprechend stärker zu reguliere, hier hat die USA (und deren Verbündete) so ziemlich die Kontrolle drüber. Und dann besteht natürlich immer noch die Möglichkeit, dass sich China auf ein Abkommen ein lässt, denn auch die haben sicher kein Interesse daran, dass eine Superintelligenz die Menschheit vernichtet.

Übrigens: Ein Supercompuer ist nicht zwingend gleichzeitig für das Training von KI Modellen geeignet. Die USA hat hier weit größere Kapazitäten.
 
Woah, der Typ, der mit dem AI-Bullshit das meiste Geld verdient weint jetzt rum, dass Kritik alles nur Panikmache und völlig unverantwortlich sei? Welch eine Überraschung.

Das einzig unverantwortliche an der ganzen Situation ist Jensens gnadenlose Ignoranz im Hinblick auf alles, das nicht sein Konto betrifft. Der Typ gehört für jegliche (Umwelt)Schäden, an denen er maßgeblich mitverantwortlich ist, zur Rechenschaft gezogen. Dem geht es doch nur noch darum, die eigenen Taschen zu füllen und das mit allen Mitteln, die ihm recht sind. Kriminell nenne ich sowas.
 
Zuletzt bearbeitet:
Zurück
Oben