Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsAutonome Cyberangriffe: KI-Agenten erstellen aus Sicherheitspatches Exploits
Google warnt im aktuellen KI-Bedrohungsbericht vor zunehmend autonomen KI-Werkzeugen für Cyberangriffe. Ein entdecktes Framework entwickelte dabei aus Sicherheitspatches selbstständig Exploits. Der Bericht beschreibt zudem weitere KI-gestützte Angriffe, Manipulation politischer Debatten und Googles automatisierte Gegenmaßnahmen.
Ist doch nichts neues? KI findet Lücken. Dabei haben sowohl die good guys als auch die bad guys Zugriff auf neue KI Werkzeuge. Also gibt es Leute, die das nutzen um Lücken zu finden um sie zu schließen, aber auch Leute die das nutzen um Lücken zu finden um sie auszunutzen.
Ist doch nichts neues? KI findet Lücken. Dabei haben sowohl die good guys als auch die bad guys Zugriff auf neue KI Werkzeuge. Also gibt es Leute, die das nutzen um Lücken zu finden um sie zu schließen, aber auch Leute die das nutzen um Lücken zu finden um sie auszunutzen.
naja aber bisher wurde Lücken durch "try and error" als Lücken enttarnt,
das man jetzt per reverse engineering erkennt: der patch A verändert die Datei xy in dem Bereich, um die Tür zu schließen, dann könnte man aber diese Veränderung AKTIV für Angriff auf Datei B verwenden, ist eben der next step. den de-facto ist dann jede geschlossene Lücke der direkte Fingerabdruck für den nächsten Angriff.
Die "good guys" arbeiten für festes Gehalt 9to5 und die "bad guys" wann sie wollen für das was sie dadurch erbeuten. Das Patches oft verspätet eingespielt werden macht es natürlich nicht besser.
"eine Plattform mit Gemini-API-Anbindung, die politische Diskussionen insbesondere in Europa und dem Nahen Osten beeinflussen sollte. Sprachmodelle erhielten dafür Anweisungen, regionale Dialekte, Umgangssprache und absichtliche Schreibfehler einzusetzen, um authentischer zu wirken.
Ein weiterer Anbieter entwickelte eine Plattform zur Verwaltung von mehr als 100.000 Konten. Virtuelle Smartphones, Proxyserver und automatisierte Interaktionen sollten dabei die Erkennung gefälschter Profile erschweren und deren Aktivitäten weniger auffällig erscheinen lassen."
qualmt selbst mir als ITler langsam der Kopf, wie ich mich unf mein privates Umfeld in Zukunft noch schützen kann in einer Welt, in der so unfassbar komplexe Dinge, Angriffe und Beeinflussungen vorgenommen werden. Ich meine jetzt nicht allein irgendwie einen Rechner abzusichern oder ein Netzwerk sondern wirklich das eigene digitale private Leben.
Grundsätzlich nicht, aber Geschwindigkeit, Umfang und Anpassungsfähigkeit nehmen rasant zu. Im Grunde benötigt es zur Abwehr ebenfalls (teil)autonome Systeme, um dem zu begegnen. IC - Intrusion Counter, Watch Dogs, Tracer...
Das Wettrüsten nimmt neue Formen an, wobei vermutlich Player mit kriminellen und/oder politisch/militärischen Absichten einen Vorsprung haben werden.
@Zhenwu
Das macht man doch! Was denkst Du denn, warum bei den Patchdays sowohl bei Windows als auch bei Linux hunderte von Lücken geschlossen werden? Weil man deren Quellcodes inzwischen mit der KI durchforstet und systematisch nach Lücken sucht. Dies macht man auch bei den gängigen Softwareprodukten. Das weiß man doch inzwischen.
Dann können doch KI-Agenten schneller die Lücken schließen bzw Patches einspielen?
Das ist also das KI-Perpetuum mobile:
Durch KI-Agenten werden Exploits immer schneller ausgenutzt, um dieses Ausnutzen zu verhindern braucht man immer mehr KI-Agenten. Wir haben uns also mit dieser Technologie Probleme geschaffen die wir ohne diese nicht hätte & als Lösung müssen wir mehr auf genau diese Teschnologie setzen. Schon genial.
btw:
Wieso wurde als Artikelbild eine Drohne mit Kamera gewählt?
Wäre dieses nicht zutreffender? Vielleicht noch nicht jetzt, aber in 15 Jahren sicherlich
"Habe gesehen dein Server ist noch nicht gepatcht"
@bart1983
Der Fehler in deinem Bild ist aber das total ineffiziente Exoskelett nach humanen Vorbild. Schätze mal, eine herausragende KI wird ein deutlich besseres Design vor "Augen"haben. 😅
In einem guten Plottwist würde das jetzt für vernünftiger Patchroutinen sorgen, also OnTheFly-Patching, DeltaPatching, NoReboot-Patches, Trennung von Sicherheits- und Featurepatches und so weiter.