Verhinderung von Massenüberwachung: OpenAI will Vertrag mit Pentagon geändert haben

Am Ende scheint die Empörung zu groß gewesen zu sein. Nur wenige Tage nachdem der Vertrag zwischen dem US-Kriegsministerium und OpenAI bekannt geworden war, betreibt das Unternehmen nun Schadensbegrenzung und will den Kontrakt unter anderem so angepasst haben, dass kein Produkt für Massenüberwachungen genutzt werden können soll.

Einigung soll um mehrere Punkte ergänzt worden sein

Dies geht aus einem Memo hervor, das CEO Sam Altman zunächst unternehmensintern verteilt und dessen Inhalt er inzwischen auch auf X veröffentlicht hat. Darin berichtet Altman, dass sich die Unternehmensführung an das DoW („Department of War“) gewandt habe, um die erst vor kurzem geschlossene Vereinbarung um grundlegende Ergänzungen zu erweitern.

So solle unter anderem der aufgekommenen Kritik an einer möglichen Massenüberwachung durch OpenAI entgegengewirkt werden. Das Unternehmen beruft sich dabei unter anderem auf die vierte Änderung der Verfassung der Vereinigten Staaten, den National Security Act von 1947 sowie den FISA Act von 1978. Nach Auffassung von OpenAI dürften KI-Systeme auf Grundlage dieser Gesetze nicht absichtlich zur Überwachung von US-Bürgern und Staatsangehörigen im Inland eingesetzt werden. Um eventuelle Missverständnisse zu vermeiden, sollen die genannten Einschränkungen vom Ministerium als „Verbot der absichtlichen Verfolgung, Überwachung oder Beobachtung von US-Bürgern oder Staatsangehörigen, einschließlich durch die Beschaffung oder Verwendung von kommerziell erworbenen persönlichen oder identifizierbaren Informationen“ interpretiert werden.

OpenAI will rechtswidrige Nutzung unterbinden

Mit den Zusätzen solle zudem verhindert werden, dass die Dienste von OpenAI von den Nachrichtendiensten des Kriegsministeriums, wie etwa der NSA, genutzt werden. Altman führt weiter aus, dass der Schutz der bürgerlichen Freiheit von entscheidender Bedeutung sei und dass im Rahmen demokratischer Prozesse gearbeitet werden müsse. Ebenso würde die nun eingebrachte Ergänzung dem Konzern fortlaufend die Möglichkeit einräumen, sein Fachwissen einzubringen und „für die Prinzipien der Freiheit kämpfen können“. Der Zusatz solle für jene Fälle vorsorgen, in denen die Konsequenzen beim Einsatz von KI noch nicht absehbar seien. Diese sollten dann mit technischen Sicherheitsvorkehrungen sowie bei Bedarf mit weiteren Methoden gelöst werden.

Ein Hauch von Selbstkritik

Altman merkt zudem an, dass das in seinen Worten „überstürzte“ An-die-Öffentlichkeit-Gehen am vergangenen Freitag ein Fehler gewesen sei. Die mit der Vereinbarung einhergehenden Probleme seien seiner Aussage nach zu komplex und erforderten eine klare Kommunikation. Dabei betont er, es sei versucht worden, die Lage zu deeskalieren, um ein deutlich schlimmeres Ergebnis zu vermeiden. Ebenso betonte Altman, dass er bei einer verfassungswidrigen Anordnung lieber ins Gefängnis gehen werde, als diese zu befolgen.

Anthropics Platz übernommen

OpenAI hatte die Vereinbarung bekannt gegeben, kurz nachdem die Trump-Regierung US-Regierungsbehörden die Nutzung von Anthropic-Diensten untersagt hatte. Zuvor hatten das US-Verteidigungsministerium und Minister Pete Hegseth Anthropic unter Druck gesetzt, etwaige Sicherheitsvorkehrungen der KI zu deaktivieren, damit das Ministerium diese nach eigenen Vorstellungen einsetzen könne – wozu auch die genannte Massenüberwachung, aber ebenso die Steuerung vollständig autonomer Waffen gehören würde. Anthropic kam dieser Aufforderung nicht nach, sondern bekräftigte in einer Stellungnahme weiterhin seine ablehnende Haltung. Das Verteidigungsministerium leitete daraufhin Schritte ein, um Anthropic als Lieferkettenrisiko einzustufen. Eine solche Maßnahme erfolgt in der Regel eher bei ausländischen Unternehmen, bei denen davon ausgegangen werden kann, dass sie mit der Regierung ihres Landes zusammenarbeiten – also etwa Huawei aus China.

Altman gab in dem Memo ebenfalls an, dieser Anschuldigung widersprochen zu haben. Er betonte erneut, dass die Einstufung von Anthropic nicht den Tatsachen entsprechen würde. Er hoffe, dass das Ministerium dem Konkurrenten die gleiche Einigung unterbreiten würde, wie sie nun zwischen OpenAI und der US-Regierung zustande gekommen sein soll. Gleichzeitig merkt er allerdings ebenso an, dass Anthropic in dem Fall, in dem die Einigung identisch mit der von OpenAI gewesen sei, das Unternehmen diese hätte annehmen sollen.

Konsequenzen für OpenAI

Die Veröffentlichung der Vereinbarung zwischen dem Kriegsministerium und OpenAI hatte für das Unternehmen gravierende Folgen: So berichtet unter anderem Engadget, dass kurz nach dem Bekanntwerden die mobile App von Claude im App Store von Apple die Spitze der kostenlosen Apps übernommen habe. Gleichzeitig soll die Zahl der Deinstallationen von ChatGPT laut Sensor Tower im Tagesvergleich um 295 Prozent gestiegen sein, während die Installationen von Claude am 27. Februar zunächst um 37 Prozent und am 28. Februar schließlich um 51 Prozent zulegen konnten. Gleichzeitig stiegen die 1-Sterne-Bewertungen im App Store am vergangenen Samstag um 775 Prozent, um einen Tag darauf noch einmal um 100 Prozent anzusteigen.

Es dürfte daher nicht als unwahrscheinlich gelten, dass dies sowie der allgemeine Aufschrei zu Altmans „Umdenken“ beigetragen haben.