CEOs führender KI-Unternehmen: Brief soll KI-entwickelte bio­logische Waffen verhindern

Führende KI-Unternehmen, Wissenschaftler und Biosecurity-Experten fordern in einem offenen Brief neue gesetzliche Vorgaben für die Kontrolle synthetischer DNA und RNA. Anlass sind wachsende Sorgen, dass immer leistungsfähigere KI-Systeme die Hürden für die Entwicklung biologischer Waffen senken könnten.

Künstliche Intelligenz als Gefahrenquelle ausgemacht

Darüber berichtet das IT-Portal Wired. Zu den Unterzeichnern des an den US-Kongress gerichteten offenen Briefes zählen unter anderem Führungskräfte von Google DeepMind, OpenAI, Anthropic und Microsoft AI, darunter Demis Hassabis, Sam Altman, Dario Amodei und Mustafa Suleyman. Alle sprechen sich für gesetzliche Vorgaben aus, die Anbieter synthetischer DNA- und RNA-Sequenzen verpflichten sollen, sowohl Kunden als auch Bestellungen systematisch zu überprüfen.

Drastisch gesunkene Kosten als Problem

Initiiert wurde der Brief vom Institute for Progress (IFP) und der Foundation for American Innovation (FAI), zwei Non-Profit-Think-Tanks mit Sitz in Washington D.C. In dem veröffentlichten Schreiben warnen sie davor, dass die rasante Entwicklung künstlicher Intelligenz bestehende Wissensbarrieren für den Zugang zu biologischen Waffen deutlich senken könnte. Als besonders relevant heben die Initiatoren die Herstellung synthetischer DNA hervor. Seit den ersten Erfolgen in den 1950er-Jahren habe sich dieser Bereich grundlegend verändert, da heute zahlreiche Unternehmen weltweit genetische Sequenzen automatisiert produzieren und vertreiben. Zugleich sei die Technologie längst zu einem festen Bestandteil von Forschung, Medikamentenentwicklung und Diagnostik geworden und werde dort vielfältig konstruktiv eingesetzt. Einheitliche gesetzliche Vorgaben für Unternehmen existieren bislang jedoch nicht.

Zu den Unterzeichnern zählen außerdem Vertreter der Gensynthese-Unternehmen Twist Bioscience und Ansa Biotechnologies. Beide Unternehmen unterstützen bereits freiwillige Kontrollmaßnahmen im Rahmen des International Gene Synthesis Consortium. Darüber hinaus überprüfen zahlreiche Anbieter Bestellungen automatisiert auf sogenannte „Sequences of Concern“, also genetische Sequenzen mit potenziell gefährlichen Eigenschaften.

Nach Ansicht der Unterzeichner könnte künstliche Intelligenz sowohl die Kostenhürden als auch vor allem die Entwicklungszeiten drastisch reduzieren. Die Kombination aus günstiger werdender Gensynthese und leistungsfähigen KI-Systemen erhöhe das Risiko, dass gefährliche Toxine oder Krankheitserreger entwickelt werden könnten. Zwar werde darauf hingewiesen, dass für die praktische Umsetzung weiterhin biologische Fachkenntnisse erforderlich seien, dennoch könne KI die Recherche, Planung und Entwicklung erheblich erleichtern.

Alte Erreger könnten reaktiviert werden

Als Warnsignal verweisen die Verfasser des Briefes auf ein Experiment aus dem Jahr 2017, bei dem kanadische Forscher mithilfe bestellter DNA im Wert von lediglich 100.000 US-Dollar das ausgestorbene Horsepox-Virus rekonstruieren konnten. Vergleichbare Methoden könnten theoretisch auch bei gefährlicheren Erregern wie den Pocken eingesetzt werden. Gleichzeitig seien die Kosten für die DNA-Synthese in den vergangenen Jahren kontinuierlich gesunken.

Hinzu komme, dass KI-Systeme laut dem Stanford-Mikrobiologen David Relman dabei helfen könnten, Anbieter mit unzureichenden Kontrollen zu identifizieren oder Bestellungen so anzupassen, dass bestehende Screening-Systeme umgangen werden. Zudem würden vorhandene Kontrollmechanismen immer wieder Schwachstellen aufweisen. So kam zuletzt eine Studie von Microsoft zu dem Ergebnis, dass KI-gestützte Protein-Design-Systeme potenziell gefährliche genetische Sequenzen erzeugen konnten, die von Screening-Programmen nicht erkannt werden.

Druck auf den US-Senat

Der Brief betont daher, dass nicht nur Gensynthese-Unternehmen, sondern auch Anbieter von KI-Systemen Verantwortung übernehmen müssten und zusätzliche Sicherheitsmechanismen erforderlich seien. Bereits unter der Biden-Regierung wurden Richtlinien eingeführt, nach denen staatlich geförderte Forschungseinrichtungen ausschließlich bei Anbietern bestellen dürfen, die entsprechende Prüfverfahren durchführen. Ein Anfang des Jahres im US-Senat eingebrachter parteiübergreifender Gesetzentwurf sieht vor, die Überprüfung von Kunden und Bestellungen für sämtliche in den USA tätigen Gensynthese-Anbieter verpflichtend zu machen.