Nach angedrohtem Ausschluss: Anthropic und Pentagon ver­handeln wieder über KI-Abkommen

Nachdem Anthropic aufgrund seiner Weigerung, sämtliche Sicherheitsrichtlinien in den dem Militär bereitgestellten Modellen zu entfernen, als „Lieferketten-Risiko“ eingestuft wurde und daher aus den Systemen des US-Kriegsministeriums entfernt werden soll, kommt Bewegung in die Sache: Anthropic und das Pentagon verhandeln wieder.

Vom Paulus zum Saulus

Im Juli des letzten Jahres erhielt Anthropic erstmals einen Auftrag vom US-Verteidigungsministerium im Wert von 200 Millionen Dollar. Damit waren die KI-Modelle des Unternehmens die ersten, die in geheimen Einrichtungen und von nationalen Sicherheitsbehörden eingesetzt wurden. Jetzt besteht für den KI-Anbieter die Gefahr, in dieser Hinsicht künftig keine Rolle mehr zu spielen.

Verhandlungen wieder aufgenommen, Ausgang ungewiss

Einem Bericht der Financial Times zufolge unternimmt Anthropic-Chef Dario Amodei derzeit einen letzten Anlauf, um nach den gescheiterten Gesprächen mit dem Stellvertreter von Kriegsminister Pete Hegseth doch noch eine Einigung über den militärischen Einsatz der eigenen KI-Modelle zu erreichen. Bleibt dieser Versuch allerdings erfolglos, könnte Anthropic am Ende tatsächlich auf der schwarzen Liste der Trump-Regierung landen und endgültig aus den Systemen des Ministeriums gestrichen werden. Hegseth hatte diese Maßnahme nach dem Verstreichen seines Ultimatums zwar am vergangenen Freitag angedroht, sie bislang jedoch nicht in die Tat umgesetzt.

Belastetes Verhältnis

Amodei führt dabei laut mehreren mit der Angelegenheit vertrauten Personen Gespräche mit Emil Michael, dem Staatssekretär für Forschung und Technik im Verteidigungsministerium, um doch noch einen Vertrag über den Zugang des Pentagons zu den KI-Modellen von Anthropic auszuhandeln. Im Mittelpunkt stehen dabei Streitpunkte rund um die Massenüberwachung im Inland sowie autonome Waffen. In einer Stellungnahme erklärte der Anthropic-CEO vor wenigen Tagen, dass das Unternehmen Einsatzzwecke ausschließen wolle, bei denen Sicherheit und Zuverlässigkeit nicht gewährleistet werden könnten. Aktuelle KI-Systeme arbeiteten in den genannten Bereichen nicht zuverlässig genug und stellten seiner Meinung nach damit ein Risiko für Zivilisten wie auch US-Soldaten dar. Den Einsatz der Modelle für rechtmäßige Geheimdienstoperationen unterstütze Anthropic hingegen grundsätzlich. Einfach dürften die Verhandlungen dennoch nicht werden – hatte Michael Amodei doch noch vor einer Woche als „Lügner“ mit einem „Gottkomplex“ bezeichnet.

Zweifel wurden bestätigt

Einen Tag nach dem endgültigen Scheitern der Verhandlungen wandte sich Amodei mit einem Memo an seine Belegschaft. Darin schilderte er, dass das Ministerium gegen Ende der Gespräche angeboten habe, sämtliche Bedingungen von Anthropic zu akzeptieren – sofern das Unternehmen seinerseits bereit wäre, einen bestimmten Passus über die „Analyse von in großen Mengen erfassten Daten“ zu streichen. Dies entsprach jedoch genau dem Szenario, das dem Anthropic-CEO die größten Sorgen bereitet hatte, weshalb er die Forderung als „sehr verdächtig“ empfand. Doch nicht nur dieser Punkt brachte die ersten Verhandlungen zum Erliegen – auch eine Äußerung von US-Präsident Trump zu genau jener Zeit tat ihr Übriges. Trump hatte Anthropic als vermeintlich linkes und wokes Unternehmen bezeichnet, von der sich das US-Militär nicht vorschreiben lasse, wie es Kriege zu führen habe.

In dem Memo schrieb Amodei zudem, dass ein Großteil der Mitteilungen des Pentagon und von OpenAI, das am Freitag eine eigene Vereinbarung mit Hegseth getroffen hatte, „einfach nur Lügen zu diesen Themen oder Versuche, Verwirrung zu stiften“ gewesen seien. Darüber hinaus deutete er an, dass Anthropic vor allem deshalb ausgegrenzt worden sei, weil das Unternehmen, anders als OpenAI-Chef Sam Altman, „Trump nicht wie ein Diktator gelobt“ hatte.

OpenAI mit schnellem „Deal“ und teilweisem Rückzug

OpenAI hatte am gleichen Abend erklärt, ein Abkommen mit dem US-Kriegsministerium geschlossen zu haben und dem Pentagon dafür eine angepasste Version seiner KI-Modelle bereitzustellen. Die – auch intern laut gewordene – Kritik und die Debatte darüber, welche Kompromisse OpenAI dafür eingegangen war, ließen nicht lange auf sich warten, und die Folgen fielen drastisch aus: Im App Store von Apple hagelte es 1-Sterne-Bewertungen für die ChatGPT-App, während die Claude-App dort die Spitze der kostenlosen Apps übernahm. Zudem sollen sich die Deinstallationen von ChatGPT im App Store gegenüber dem Vortag verdreifacht haben.

Dies veranlasste OpenAI-CEO Sam Altman schließlich dazu, ein zunächst internes Memo öffentlich zu machen, in dem er ankündigte, mit dem US-Kriegsministerium nachverhandeln zu wollen, um durch zusätzliche Regelungen die rechtswidrige Nutzung der eigenen KI-Modelle zu unterbinden.