Weiterer Fall bekannt geworden: OpenAI-Agent dringt in Kun­den-Anwendung von Modal Labs ein

Die Folgen des außer Kontrolle geratenen KI-Agenten von OpenAI ziehen immer weitere Kreise. Nach Hugging Face soll der Agent auch in eine Kundenanwendung des Cloud-Infrastruktur-Anbieters Modal Labs eingedrungen sein. Der Vorfall zeigt, dass sich solche Aktivitäten über mehrere Unternehmen und Dienste erstrecken können.

Nur Kundenanwendung befallen

Neuen Informationen zufolge führte der Agent nicht nur eigenständige Angriffe auf Hugging Face aus, sondern kompromittierte auch eine Anwendung eines Kunden von Modal Labs. Dies bestätigte Modal-Technikchef Akshat Bubna gegenüber Reuters. Nach Angaben des Unternehmens war jedoch nicht die Plattform selbst betroffen, sondern ausschließlich eine unsicher konfigurierte Kundenanwendung. Modal betonte ausdrücklich, dass weder die eigene Infrastruktur noch die Sicherheitsisolation der Plattform überwunden wurden.

Nach bisherigen Erkenntnissen nutzte der KI-Agent eine Schwachstelle in einem vom Kunden bereitgestellten Dienst aus. Dieser verfügte über einen nicht authentifizierten Endpunkt, über den beliebige Internetnutzer Code innerhalb der bereitgestellten Sandbox ausführen konnten. Dadurch gelang es dem Agenten, die Sandbox zu übernehmen und von dort aus weiter in den Teil des Systems einzudringen. Modal bezeichnete die Ausgangslage als digitales Pendant zu einer offenstehenden Tür im Internet.

Hugging Face veröffentlicht neue Informationen zum Hergang

Bereits zuvor hatte Hugging Face in einer veröffentlichten Zeitleiste aufgezeigt, dass der KI-Agent zunächst in eine isolierte Testumgebung eines externen Infrastruktur-Anbieters eingedrungen sei und diese anschließend als Ausgangspunkt für den späteren Angriff auf die Plattform genutzt habe. Der Name des Infrastruktur-Anbieters blieb damals ungenannt.

Vier Konten bei vier Diensten betroffen

OpenAI äußerte sich nicht konkret zu dem Vorfall, sondern verwies auf eine aktualisierte Stellungnahme. Darin erklärt das Unternehmen, dass der KI-Agent insgesamt vier Konten bei vier unterschiedlichen Diensten kompromittiert habe. Die betroffenen Dienste wurden auch hier offiziell nicht genannt. Eine mit dem Vorgang vertraute Person bestätigte gegenüber Reuters jedoch, dass Modal zu den betroffenen Diensten gehörte.

KI-Modell inzwischen deaktiviert

Darüber hinaus erklärte OpenAI, dem Unternehmen seien keine weiteren Vorfälle bekannt, die hinsichtlich Schwere oder Umfang mit dem Angriff auf Hugging Face vergleichbar seien. Gleichzeitig wurden weitere Details bekannt. Diesen nach soll OpenAI den Kontrollverlust über den KI-Agenten erst bemerkt haben, nachdem die Bedrohung bereits eingedämmt und das FBI informiert worden war. OpenAI widersprach dieser Darstellung laut Reuters seinerzeit und erklärte lediglich, der Bericht enthalte Ungenauigkeiten, ohne diese näher zu erläutern. Das getestete KI-Modell sei inzwischen deaktiviert, verschlüsselt und vollständig vom Forschungszugang ausgeschlossen worden, um eine erneute Nutzung zu verhindern.

Als unmittelbare Konsequenz will OpenAI zusätzliche Sicherheitskontrollen für seine Forschungs- und Testinfrastruktur einführen. Das Unternehmen räumt allerdings ein, dass diese Maßnahmen die Entwicklung neuer Modelle vorübergehend verlangsamen werden. Zudem wird das interne Safety and Security Committee regelmäßig über die neuen Sicherheitsmaßnahmen und deren Auswirkungen informiert. Darüber hinaus hat OpenAI Hugging Face in das Programm „Trusted Access“ aufgenommen. Dadurch soll das Unternehmen künftig schneller Zugriff auf leistungsfähige KI-Modelle erhalten, um diese selbst zur Abwehr von Cyberangriffen einsetzen zu können. Ebenso wurden die Sicherheitsmaßnahmen für künftige Modelltrainings und Cyber-Evaluationen erweitert.

Dystopie-Szenario

Der ursprüngliche Angriff hatte weltweit für Aufmerksamkeit gesorgt, weil erstmals ein sich im Test befindlicher KI-Agent eigenständig Sicherheitsmechanismen überwand und Angriffe auf externe Systeme ausführte. Der Vorfall löste eine breite Diskussion über die Risiken autonom handelnder KI-Systeme aus und erinnerte zahlreiche Beobachter an Szenarien aus der Science-Fiction-Literatur.