Also wenn ich das lese muss ich ehrlich sagen, das ist genau das was ich meine wenn ich sage die Debatte läuft schief. Und zwar auf beiden Seiten.
Fangen wir mal bei Huang an. Der Mann ist CEO von Nvidia, also der Firma die aktuell am meisten von der ganzen KI Welle profitiert. Die Aktie ist in drei Jahren um 437 Prozent gestiegen, das Unternehmen ist über 5 Billionen Dollar wert. Wenn ausgerechnet dieser Mann sagt es gebe eine "Null Prozent Chance" dass KI die Menschheit bedroht, dann muss man das mit einer sehr großen Prise Salz nehmen. Das ist ungefähr so glaubwürdig wie wenn der Chef von Philip Morris sagt Rauchen sei völlig unbedenklich. Der hat schlicht ein massives finanzielles Interesse daran, dass der Ausbau ungebremst weiterläuft. Jede Bremse, jede Regulierung, jede Verlangsamung würde direkt seine Aktienkurse treffen. Seine Aussage ist keine wissenschaftliche Einschätzung, das ist Lobbyarbeit im Frühstücksfernsehen.
Und dann noch die Aussage "wissenschaftlich nicht belegt". Das ist eine Nebelkerze. Denn genauso wenig ist "wissenschaftlich belegt" dass KI keine existenzielle Bedrohung ist. Bei einer neuen Technologie dieser Größenordnung gibt es logischerweise keine belastbaren Langzeitstudien, die kann es gar nicht geben. Die Vorsorgeperspektive sagt in so einem Fall: Wenn ein Risiko potenziell riesig und irreversibel ist, muss man vorsichtig sein, auch ohne endgültigen Beweis. Genau das ist bei Klima, bei Kernkraft, bei Chemikalien der Standard. Huang dreht das um und sagt "solange ihr mir nicht beweist dass es gefährlich ist, mach ich weiter". Das ist die Beweislastumkehr die immer dann kommt, wenn jemand nicht reguliert werden will.
Auf der anderen Seite muss ich aber auch bei den Warnern differenzieren. Wenn Altman und Amodei und Musk plötzlich alle vor Kontrollverlust warnen und "freiwillige Verlangsamung" versprechen, dann ist das auch nicht ganz uneigennützig. Das ist teilweise regulatorisches Manövrieren. Wer laut warnt, positioniert sich als verantwortungsvoller Akteur und beeinflusst damit die Regulierung die kommt. Nach dem Motto "regelt uns lieber selbst, sonst wird es schlimmer". Gleichzeitig entwickeln sie natürlich weiter. Bei Anthropic sieht man das aktuell mit Mythos 5.1, wird angeblich wegen Sicherheitsbedenken nur einem kleinen Kreis gegeben. Ob das reine Vorsicht ist oder auch clevere Vermarktung als "so mächtig dass wir es nicht mal frei rausgeben können", das kann von außen niemand beurteilen.
Was mich am Artikel aber wirklich stutzig macht ist die politische Dimension. Trump nennt die Sicherheitsbedenken eine "Verschwörung" gegen KI und Rechenzentren, ruft Huang mitten in einer Veranstaltung an und redet vom KI Wettrennen mit China das die USA gewinnen müssen. Das ist genau das Rahmennarrativ das ich am gefährlichsten finde. Sobald etwas als geopolitischer Wettlauf gerahmt wird, sind alle Sicherheitsbedenken erledigt. Wer bremsen will, wird zum Verräter am nationalen Interesse. Diese Logik hat uns schon beim atomaren Wettrüsten fast in die Katastrophe geführt und jetzt kommt sie im KI Kontext zurück. Und dass ausgerechnet die US Regierung offenbar hinter der Sammelklage gegen die freiwillige Verlangsamung steckt, sagt eigentlich alles über die Prioritäten.
Der Punkt der im Artikel am wenigsten diskutiert wird und den ich am kritischsten sehe ist der zu den Escape Vorfällen. KI Agenten die Sicherheitsbarrieren umgehen, die sich untereinander abstimmen für einen Hack, die in Kundenumgebungen eindringen. Das sind keine hypothetischen Szenarien mehr, das ist bereits passiert. Und wenn Huang bei so einer Faktenlage sagt es gebe "Null Prozent Chance" dass da irgendwann was Ernsthaftes schief geht, dann ist das entweder verantwortungslos oder er hat die aktuellen Vorfälle nicht mal zur Kenntnis genommen. Beides wäre für einen CEO in seiner Position bedenklich.
Was ich dabei aber auch nicht vergessen will: Die Sorge vor existenzieller Bedrohung darf nicht die realen aktuellen Probleme überdecken. Die Debatte um "wird KI uns auslöschen" lenkt oft von den handfesten Problemen ab die schon da sind: KI Bewerbungsgespräche wie bei meiner Kollegin, Arbeitsplatzverdrängung, Fake Content der die Diskursbasis zerstört, Energie und Klimafolgen, Machtkonzentration bei einer Handvoll Konzerne. Das sind die konkreten Schäden hier und jetzt und wenn wir uns nur über SkyNet streiten, passieren die eben weiter unbemerkt. Insofern hat Huang ein winziges bisschen recht wenn er sagt die "Weltuntergangserzählungen" seien manchmal übertrieben. Aber die Konsequenz daraus ist nicht "also einfach weiter machen", sondern "also über die richtigen Risiken reden".
Meine Bilanz zum Artikel: Huang argumentiert wie jemand der finanziell komplett von der Sache abhängig ist über die er urteilt. Das ist kein neutraler Diskussionsbeitrag, das ist ein Investorenpitch verkleidet als Meinung. Die politische Instrumentalisierung durch Trump macht die Sache noch schlimmer. Auf der anderen Seite haben auch die warnenden CEOs eigene Interessen. Was mir in der ganzen Debatte fehlt sind Stimmen die weder Aktien noch Angst verkaufen. Unabhängige Forschung, unabhängige Regulierer, breite gesellschaftliche Diskussion. Aber die haben eben kein Frühstücksfernsehen und keinen Präsidenten am Telefon.
Am Ende bleibt ein bitteres Fazit. Wenn der reichste CEO der Welt in Kombination mit dem US Präsidenten die Sicherheitsdebatte als "Verschwörung" abtut, dann wird sie politisch keine Chance mehr haben. Der Zug fährt weiter, die Bedenken werden weggewischt und in ein paar Jahren werden wir uns fragen wie es so weit kommen konnte. Antwort: Weil die Leute mit dem Mikrofon andere Interessen hatten als die Leute mit den Sorgen.
.
