News Autonome Cyberangriffe: KI-Agenten erstellen aus Sicherheitspatches Exploits

mischaef

Kassettenkind
Teammitglied
Registriert
Aug. 2012
Beiträge
8.253
Google warnt im aktuellen KI-Bedrohungsbericht vor zunehmend autonomen KI-Werkzeugen für Cyberangriffe. Ein entdecktes Framework entwickelte dabei aus Sicherheitspatches selbstständig Exploits. Der Bericht beschreibt zudem weitere KI-gestützte Angriffe, Manipulation politischer Debatten und Googles automatisierte Gegenmaßnahmen.

Zur News: Autonome Cyberangriffe: KI-Agenten erstellen aus Sicherheitspatches Exploits
 
  • Gefällt mir
Reaktionen: aid0nex, MGFirewater und Drahminedum
Willkommen in der neuen KI-Welt und ihren neuen Bedrohungen.
Aufhalten lässt sich das Ganze ohnehin nicht mehr.
 
  • Gefällt mir
Reaktionen: Land_Kind, evilhunter, -Chaos- und eine weitere Person
skynet boot complete.
 
  • Gefällt mir
Reaktionen: rage222 und Tow3r
Ist doch nichts neues? KI findet Lücken. Dabei haben sowohl die good guys als auch die bad guys Zugriff auf neue KI Werkzeuge. Also gibt es Leute, die das nutzen um Lücken zu finden um sie zu schließen, aber auch Leute die das nutzen um Lücken zu finden um sie auszunutzen.
 
  • Gefällt mir
Reaktionen: rollmoped
Die Geister die rief fällt mir da grade ein
 
  • Gefällt mir
Reaktionen: evilhunter, Weyoun, AKFede und 2 andere
aid0nex schrieb:
Ist doch nichts neues? KI findet Lücken. Dabei haben sowohl die good guys als auch die bad guys Zugriff auf neue KI Werkzeuge. Also gibt es Leute, die das nutzen um Lücken zu finden um sie zu schließen, aber auch Leute die das nutzen um Lücken zu finden um sie auszunutzen.
naja aber bisher wurde Lücken durch "try and error" als Lücken enttarnt,
das man jetzt per reverse engineering erkennt: der patch A verändert die Datei xy in dem Bereich, um die Tür zu schließen, dann könnte man aber diese Veränderung AKTIV für Angriff auf Datei B verwenden, ist eben der next step. den de-facto ist dann jede geschlossene Lücke der direkte Fingerabdruck für den nächsten Angriff.
 
  • Gefällt mir
Reaktionen: evilhunter, DerAdriLo und Arboster
Die "good guys" arbeiten für festes Gehalt 9to5 und die "bad guys" wann sie wollen für das was sie dadurch erbeuten. Das Patches oft verspätet eingespielt werden macht es natürlich nicht besser.
 
  • Gefällt mir
Reaktionen: bart1983
Ich vermisse die News, dass Unternehmen anfangen, KI zu nutzen, um Lücken zu schließen.

Ist aber wohl zu einfach.
 
Also wenn ich das hier lese

"eine Plattform mit Gemini-API-Anbindung, die politische Diskussionen insbesondere in Europa und dem Nahen Osten beeinflussen sollte. Sprachmodelle erhielten dafür Anweisungen, regionale Dialekte, Umgangssprache und absichtliche Schreibfehler einzusetzen, um authentischer zu wirken.

Ein weiterer Anbieter entwickelte eine Plattform zur Verwaltung von mehr als 100.000 Konten. Virtuelle Smartphones, Proxyserver und automatisierte Interaktionen sollten dabei die Erkennung gefälschter Profile erschweren und deren Aktivitäten weniger auffällig erscheinen lassen."

qualmt selbst mir als ITler langsam der Kopf, wie ich mich unf mein privates Umfeld in Zukunft noch schützen kann in einer Welt, in der so unfassbar komplexe Dinge, Angriffe und Beeinflussungen vorgenommen werden. Ich meine jetzt nicht allein irgendwie einen Rechner abzusichern oder ein Netzwerk sondern wirklich das eigene digitale private Leben.
 
  • Gefällt mir
Reaktionen: inge70, evilhunter, _tnt_ und eine weitere Person
aid0nex schrieb:
Ist doch nichts neues?
Grundsätzlich nicht, aber Geschwindigkeit, Umfang und Anpassungsfähigkeit nehmen rasant zu. Im Grunde benötigt es zur Abwehr ebenfalls (teil)autonome Systeme, um dem zu begegnen. IC - Intrusion Counter, Watch Dogs, Tracer...

Das Wettrüsten nimmt neue Formen an, wobei vermutlich Player mit kriminellen und/oder politisch/militärischen Absichten einen Vorsprung haben werden.
 
  • Gefällt mir
Reaktionen: DerAdriLo
@Zhenwu
Das macht man doch! Was denkst Du denn, warum bei den Patchdays sowohl bei Windows als auch bei Linux hunderte von Lücken geschlossen werden? Weil man deren Quellcodes inzwischen mit der KI durchforstet und systematisch nach Lücken sucht. Dies macht man auch bei den gängigen Softwareprodukten. Das weiß man doch inzwischen.
 
Dann können doch KI-Agenten schneller die Lücken schließen bzw Patches einspielen?

Das ist also das KI-Perpetuum mobile:
Durch KI-Agenten werden Exploits immer schneller ausgenutzt, um dieses Ausnutzen zu verhindern braucht man immer mehr KI-Agenten. Wir haben uns also mit dieser Technologie Probleme geschaffen die wir ohne diese nicht hätte & als Lösung müssen wir mehr auf genau diese Teschnologie setzen. Schon genial.

btw:
Wieso wurde als Artikelbild eine Drohne mit Kamera gewählt?
Wäre dieses nicht zutreffender? Vielleicht noch nicht jetzt, aber in 15 Jahren sicherlich ;)
"Habe gesehen dein Server ist noch nicht gepatcht"
1794993229484.png
 
@bart1983
Der Fehler in deinem Bild ist aber das total ineffiziente Exoskelett nach humanen Vorbild. Schätze mal, eine herausragende KI wird ein deutlich besseres Design vor "Augen"haben. 😅
 
  • Gefällt mir
Reaktionen: bart1983
Ich schrieb ja schon, OpenAI und Co gehen nicht verantwortungsvoll mit KI um.
Sie geben der Büchse von Pandora Free-Wifi...
 
Vigilant schrieb:
@bart1983
Der Fehler in deinem Bild ist aber das total ineffiziente Exoskelett nach humanen Vorbild. . 😅
Stimmt auch wieder.

Erinnert mich an diese News die ich mal vor einigen Monaten las. Die Zukunft wird schon genial.
1794994062527.png
 
bart1983 schrieb:
Erinnert mich an diese News die ich mal vor einigen Monaten las. Die Zukunft wird schon genial.
Mal davon abgesehen, dass Krieg ohnehin das Bescheuertste ist, das es gibt.

Ist es dir also lieber, wenn Menschen sterben oder Kinder an die Front geschickt werden?
 
In einem guten Plottwist würde das jetzt für vernünftiger Patchroutinen sorgen, also OnTheFly-Patching, DeltaPatching, NoReboot-Patches, Trennung von Sicherheits- und Featurepatches und so weiter.
 
Zurück
Oben