150 weitere Organisationen: Anthropic öffnet Project Glasswing für mehr Teilnehmer
Anthropic erweitert sein Sicherheitsprogramm Project Glasswing um rund 150 weitere Organisationen. Damit sollen zusätzliche kritische Software und Infrastruktur mithilfe leistungsfähiger KI-Modelle wie Claude Mythos Preview besser vor Cyberangriffen geschützt werden.
Wichtigen Beitrag zur Cyber-Sicherheit geleistet
Bereits Anfang April hatte das Unternehmen den rund 50 ersten Partnerorganisationen Zugriff auf die Claude-Mythos-Preview gewährt, damit diese ihre Sicherheitsmechanismen verbessern konnten. Durch die Zusammenarbeit konnte Mozilla unter anderem mithilfe von Claude Mythos über 270 teils kritische Schwachstellen in Firefox beheben, die allein während der ersten Auswertung entdeckt wurden. Mozilla betonte in einer Stellungnahme allerdings, dass Claude Mythos kein Wundermittel sei und dass das KI-Modell keine Sicherheitslücken aufdecken konnte, die menschliche Experten mit ausreichend Zeit und Ressourcen nicht ebenfalls gefunden hätten. Genau diese beiden Faktoren fehlen in der Praxis jedoch häufig. Bereits der dadurch gewonnene Zeitvorteil dürfte daher ein wichtiger Schritt hin zu mehr Sicherheit sein.
Auch die Bilanz anderer Partner fällt laut Anthropic positiv aus. Mithilfe von Claude Mythos Preview sollen inzwischen mehr als 10.000 Sicherheitslücken mit hoher oder kritischer Schwere identifiziert worden sein. Sicherheitsexperten warnen bereits seit längerer Zeit davor, dass günstige und schnelle KI-Modelle mit ausgeprägten Cyberfähigkeiten schon in naher Zukunft verfügbar werden könnten, gegen die bisherige Sicherheitslösungen kaum wirksam seien.
Neue Möglichkeiten sind Fluch und Segen zugleich
Anthropic geht davon aus, dass innerhalb der kommenden sechs bis zwölf Monate auch andere KI-Unternehmen Modelle mit ähnlichen Fähigkeiten wie Claude Mythos Preview veröffentlichen werden. Der KI-Spezialist rechnet allerdings damit, dass viele dieser Systeme ohne ausreichende Schutzmaßnahmen gegen Missbrauch erscheinen. Dadurch könnten Cyberangriffe häufiger, schneller und deutlich schwerer vorhersehbar werden. Project Glasswing versteht Anthropic deshalb auch als Versuch, dieser Entwicklung mit neuen Standards und Arbeitsweisen entgegenzuwirken.
Projekt zählt mittlerweile rund 200 Organisationen
In einem nun veröffentlichten Blog-Eintrag teilte Anthropic nun mit, dass die zuvor angekündigte Erweiterung umgesetzt wurde und fast 150 weitere Unternehmen sowie Organisationen aus mehr als 15 Ländern in das Programm aufgenommen wurden. Darunter befinden sich auch Branchen, die im Projekt bislang unterrepräsentiert waren, etwa Energie- und Wasserversorgung, Gesundheitswesen, Kommunikation und Hardware. Viele der neuen Teilnehmer sind Anbieter oder Maintainer von Software, deren Code weltweit von Unternehmen, Behörden und kritischer Infrastruktur genutzt wird. Ein Angriff auf deren Systeme könnte Anthropic zufolge schnell Auswirkungen auf mehr als 100 Millionen Menschen haben und sowohl nationale als auch globale Sicherheitsrisiken auslösen.
KI stellt Entwickler vor neue Herausforderungen
Anthropic sieht das größte Problem inzwischen allerdings nicht mehr primär im Auffinden von Schwachstellen, sondern vielmehr im Überprüfen, Offenlegen und Schließen der großen Zahl entdeckter Sicherheitslücken. Claude-Mythos-Preview wird deshalb zunehmend auch für defensive Aufgaben eingesetzt, darunter das Schreiben von Patches, Sicherheitsprüfungen vor Software-Releases, Penetrationstests, automatisierte Bedrohungserkennung sowie die Modernisierung älterer Code-Basen hin zu speichersicheren Programmiersprachen.
Darüber hinaus führt Anthropic nach eigenen Angaben bereits seit einiger Zeit Gespräche mit Drittparteien darüber, wie sich das Prüfen und Patchen von Open-Source-Software massiv skalieren lässt. Gleichzeitig soll auch die Offenlegung von Sicherheitslücken gegenüber Open-Source-Maintainern verbessert werden.
Kurzfristig keine breite Einführung
Das Unternehmen betont aber ebenso erneut, dass Modelle mit Mythos-Fähigkeiten langfristig zwar breiter verfügbar gemacht werden sollen, dafür jedoch zunächst sehr robuste Schutzmechanismen erforderlich seien, um möglichen Missbrauch zu verhindern. Solche Mechanismen seien derzeit allerdings noch bei keinem Anbieter vorhanden und müssten daher erst entwickelt werden. Anthropic plant deshalb vorerst lediglich eine schrittweise Ausweitung von Project Glasswing. Vorrang erhalten dabei Betreiber kritischer Infrastruktur, Maintainer wichtiger Open-Source-Projekte sowie Sicherheitsforscher.
