Bericht Gehackte Konten und Patch-Flut: Wie man sich schützt, wenn KI-Agenten das Internet unsicher machen

[RobinSword]

Ist "Patch der Planet" jetzt eine schlechte menschliche, oder schlechte KI-Übersetzung?
edit: Danke fürs Korrigieren. "Patch the Planet" macht jetzt Sinn.

 

[wesch2000]

Die Gefahr hättest du z.B. bei Passkey nicht.

Und was ist, wenn jemand meine Finger auf den Sensor drückt?

 

[Helge01]

Und was ist, wenn jemand meine Finger auf den Sensor drückt?

Dann hast du die Funktionsweise von Passkey nicht richtig verstanden.

 

[rob_zup]

Die eigentlich Frage ist doch, wieso solche Systeme einfach auf den Markt losgelassen werden können, ohne vorher zertifiziert werden zu müssen.

 

[Himbeerdone]

Ja das werden harte Zeiten. Vorallem auch langsame Zeiten. Denn die Schnelligkeit heutiger Programme und Hardware verdanken wir oftmals Kniffs und Tricks, sowie Voraussagen. Diese reißen jedoch oftmals schwere Sicherheitslücken und Einfallstore in den Code und blähen den Code ungemein auf.
Ebenso ist die Codebasis oftmals mehrere Jahrzehnte alt und wurde immer wieder "provisorisch" erweitert und umgeschrieben.

Ich fürchte wir müssen hier nochmal einen Neuanfang haben mit einer neuen Basis, sehr wenig Zeilen Code und alles von Grund auf neu und effizient gedacht.

 

[Dark9]

"seit", nicht "bis". sonst wäre das ja kein thema gewesen.

"die"?

sind wir im rechtschreibkurs?

 

[Muta]

Habe gestern ein KI Modell installiert welches in ca. 16 Sekunden unglaubliche Bilder auf meinem System 5700x3d, Asus RX 9070 Prime OC Evo, 32GB/3600 generiert. Da ist mir erst bewusst geworden was selbst auf kleiner Hardware möglich ist. Da mag man sich gar nicht vorstellen, was ich riesigen KI basierten Rechenzentren
möglich ist. Noch viel unglaublicher, wenn ich an die gute, alte VC20, C64er Zeit zurück denke.😢

 

[0x8100]

sind wir im rechtschreibkurs?

"seit" und "bis" drehen hier mal die gesamte aussage um o_O aber manche leute haben es ja nicht so mit dem textverständnis...

 

[Rulf]

als allererstes sollte man bei der verwendung von ki sehr vorsichtig sein und gegebenenfalls wo möglich solche jetzt noch sehr unreifen funktionen abschalten wo es geht...das betrifft va w11 und die meißten browser...

Ergänzung (24. Oktober 2026)

@Medcha
Erst durch KI wurden Lücken entdeckt, die für Menschen entweder viel zu komplex waren oder einen Aufwand von mehreren Monaten oder Jahren bedeutet hätten.
Manchmal ist bekannt, dass es eine Lücke gibt, aber nicht, wo genau sie sich befindet, wie sie funktioniert oder wie man sie schließen kann. In diesen Fällen hat KI schon sehr oft die Lösung gefunden.

KI ist also praktisch, um Lücken zu finden und Software sicherer zu machen.
Natürlich wird diese Fähigkeit auf dem Weg dahin auch für Schlechtes ausgenutzt.


Stell dir vor, du hast ein Unternehmen mit 20 Programmierern und eine Todo-List, deren Abarbeitung 6 Monate in Anspruch nimmt.
Weitere Programmierer kannst du dir nicht leisten, aber eine KI für beispielsweise 20.000 Euro im Monat könnte das Gleiche leisten, was 20 weitere Programmierer leisten könnten.
Selbst wenn du KI-Gegner bist, musst du auf KI setzen, um wettbewerbsfähig zu bleiben.

genau das ist das problem derzeit: ki wird auch von den bösen buben genutzt...sehr erfolgreich sogar...
auch desw geht auch den ki-firmen der arsch auf grundeis und sie fordern eine strenge regulierung...
leider ist der geist aber wohl schon aus der flasche...

Ergänzung (24. Oktober 2026)

Und was ist, wenn jemand meine Finger auf den Sensor drückt?

mit einem einfachen handelsüblichem hammer könnte man wahrscheinlich auch jedes passwort herausfinden, wenn man den entsprechenden user in der gewalt hat...es gibt aber auch schon gut wirkende drogen...

fingerabdruckscanner und faceid mit oder ohne lebenderkennung waren noch nie völlig sicher...und auch ein hw-passkey ist es nicht...
die einzige hürde ist: wie weit ist der passwortbrecher bereit zu gehen...

 

[Pesky_]

die einzige hürde ist: wie weit ist der passwortbrecher bereit zu gehen...

Dazu das passende xkcd
OT: Bin echt am überlegen auf der Arbeit anzustreben, alles mögliche auf auto-update zu stellen und sich dann zurücklehnen und das Chaos zu genießen.
Wenn alle 2-3 Wochen solch eine Lücke kommt, wird man ja blöd beim Patchen und es fehlt Zeit fürs Tagesgeschäft.

 

[bart1983]

Wie jede Erfindung wird auch KI für Gutes und Schlechtes verwendet. Ich glaub in den kommenden Jahren werden wir noch sehr sehr viel Schlimmes erleben, was erst durch KI ermöglicht wurde.

Und da rede ich nicht nur von Account-Hacking, sondern auch von Sachen die teilweise lebensgefährlich sein kann.

 

[G00fY]

Ich bin selbst Softwareentwickler. Sehe leider selbst in großen IT Abteilung immer wieder gravierende Defizite beim Thema Dependency Version Updates und Release Workflows. Müssen ja nicht mal so kritische Lücken wie bei PHP2Shell sein. Sämtliche Projekte an denen ich selbst arbeite nutzen Renovate und können innerhalb weniger Minuten automatisch deployed werden. Dadurch sind Dependencies, Image Digests usw. immer getrackt und sofern nicht breaking sind Updates schnell ausgerollt. Klar gibt's hier dann auch wieder Gefahren bzgl. Supply chain attacks (vorwiegend bei NPM). Aber das lässt sich wiederum mittels Cooldowns eindämmen.

Also Sicherheitspatches gab es schon immer. Ich denke nur Entwickler und Firmen müssen Maßnahmen ergreifen um schneller zu reagieren als bislang.

 

[Snapuman]

Während es bislang um IT-Sicherheitstipps für reguläre Online-Dienste und Software geht, entsteht mit den Agenten-Lösungen derzeit eine neue Generation der KI-Assistenten. OpenClaw und Hermes sind als eigenständige Projekte ohnehin populär. Nun legen die Branchengrößen wie Meta mit Muse, Microsoft mit dem Autopilot und OpenAI mit Dots nach – es geht um KI-Assistenten, die mehr oder weniger dauerhaft im Hintergrund arbeiten und Aufträge für den Nutzer ausführen. Geht es nach dem Willen der Tech-Konzerne, sollen diese Agenten eng mit dem digitalen Leben der Nutzer verbunden werden, um in deren Auftrag etwa eigenständig Reisen zu buchen, Termine zu koordinieren oder Einkäufe zu übernehmen.
Was die Agenten dafür aber erhalten, sind weitreichende Rechte, was Gefahren mit sich bringt. Der Software-Entwickler Simon Willison hat bereits 2025 von einer Lethal Trifecta („tödliches Dreigespann“) gesprochen, die entstehen kann, wenn Agenten:

Sry, aber wer auch nur ernsthaft darüber nachdenkt derartige Features zu verwenden, hat nicht nur die Kontrolle über sein Leben verloren, nein er gibt sie ganz freiwillig und bereitwillig ab!
Da kann man ja quasi nur noch den Worst-Case wünschen, dass diese Menschen mal aus ihren feuchten technokratischen Traumwelten aufwachen... o_0

 

[Himbeerdone]

@G00fY
Schnellere und automatisierte Updates müssen zweifelsfrei sein und hätten sich auch schon wesentlich breiter durchgesetzt, WENN Updates nicht zu häufig schwerwiegende Fehler, irreparable Schäden und Inkompatibilitäten verursacht hätten die nur noch ein händisches Eingreifen mit Backup- Einspielung und früheren (unsicheren) Softwarestand nötigt machten.

 

[Janami25]

KI verursacht viel mehr Probleme als Vorteile. Und die Menschheit verblödet immer mehr. Das ist der größte Dreck den Menschen jemals erfunden haben. KI verursacht Probleme und macht Mehrarbeit, die man nachher gar nicht mehr versteht oder sich verselbstständigt . Es gibt genug Negative Beispiele. Und was setzt man als Gegenmittel ein? Noch mehr KI. Das wird nie Ruhe geben, weil immer beide Seiten wachsen. Selten so einen Shit der sogenannten Experten gelesen. Uns wurde es als Allheilmittel verkauft,und jetzt ist alles in Gefahr. Prima Entwicklung. Macht die Ignoranten von NVIDIA, openai, etc. nur noch reicher. Und Drittentwickler aus dem Osten werden auch aufrüsten. Ein Hoch auf diese Entwicklung. 👎🏻
Man verbrät schon jetzt mehr Zeit mit der Patcherei als mit dem arbeiten, bei vielen Geräten. Und das wird noch mehr werden. Das macht alles keinen Spass mehr.

 

[Skywatcher]

KI verursacht Probleme und macht Mehrarbeit, die man nachher gar nicht mehr versteht oder sich verselbstständigt . Es gibt genug Negative Beispiele. Und was setzt man als Gegenmittel ein? Noch mehr KI.

Also alles wie bisher auch, ersetze "KI" durch "Mensch": Ein Mensch verursacht ein Problem, weil er etwas nicht ganz verstanden hat oder einen Kniff angewendet hat um etwas zu beschleunigen. Und dann hat jemand anderes die Mehrarbeit und muss das verstehen und Korrigieren. Das ist ein ewiger Kreislauf. Es gibt auch sehr viele negative Beispiele für schlechte Software-Entwicklung und schlechte Programmierer, lange bevor es KI überhaupt gab.

Wer als Software-Entwickler mit dem Finger auf "KI!" zeigt, der zeigt gleichzeitig mit vier Fingern auch auf sich selbst. Den Code, der PHP2Shell verursacht hat (oder letztens das gleiche Spiel mit Log4j) hat ja wahrscheinlich einer von uns da eingebaut...

 

[Janami25]

Klar gibt es einen Unterschied. Der Mensch benötigte Jahre oder fand solche Lücken niemals oder nur durch Zufall. Und auch bei Hackern, die KI's finden solche Lücken millionenmal schneller. Genau das gleiche galt auch für die Programmierung von Spyware. Nun dank KI geht das um einiges flotter. Und das soll das gleiche sein?!

Es macht sehr wohl einen Unterschied. Denn dieser ist riesig! Und bedeutet einen deutlichen Mehraufwand für alle Parteien. KI ist auf allen Ebenen der letzte Rotz. Zerstört Arbeitsplätze, senkt den IQ und - wie man sieht - birgt sogar Sicherheitsrisikem in einem Ausmass, den man noch nicht einschätzen kann. Von der Mehrarbeit für alle gar nicht zu reden.

 

[pmkrefeld]

Passkeys sind doch public-private key pairs im schlecht, wieso man das jemandem empfehlen soll, vor allem jemanden der sich mit Sicherheit nicht auskennt erschließt es sich mir kaum.
Wenn ich dann noch sehe wie katastrophal schlecht die Umsetzung bei MS und co. ist dreht sich mir jedes Mal der Magen um. Passwortmanager sind auch kaum besser, davon wurden auch schon einige geknackt oder hatten Datenreichtum, der dann entstandene Schaden ist dann umso größer.

Das non-plus-ultra ist immer noch ne Account-Armut, statt sich für jeden Quatsch zu registeieren und passwörter die komplex genug sind, die man sich aber merken kann. Unbequeme Wahrheit und so.

 

[KeLcO]

Stell dir vor, du hast ein Unternehmen mit 20 Programmierern und eine Todo-List, deren Abarbeitung 6 Monate in Anspruch nimmt.
Weitere Programmierer kannst du dir nicht leisten, aber eine KI für beispielsweise 20.000 Euro im Monat könnte das Gleiche leisten, was 20 weitere Programmierer leisten könnten.
Selbst wenn du KI-Gegner bist, musst du auf KI setzen, um wettbewerbsfähig zu bleiben.

Oder - wie ich mal auf YT gelesen habe, in einem Kommentar.

Bug wird gemeldet und bestätigt. Problem ist nur, wie steht es um die Kosten und den Aufwand? Zu hoch. Bug bleibt bestehen.
Dann kommt die KI und binnen 1 Woche ist der Bug behoben.

 

[Land_Kind]

Wenn man bedenkt, dass Rasmus Lerdorf seine „Personal Home Page Tools“ ganz ursprünglich im 1994 für seine eigene private Webseite entwickelt hat, ist schon verrückt, was daraus inzwischen geworden ist.
Denn PHP soll ja still und leise im Hintergrund auf 70 bis 80% aller Webseiten laufen.
Wie so vieles andere auch, welches noch aus Urzeiten des Internets stammt...

Ergänzung (24. Oktober 2026)

Ich fürchte wir müssen hier nochmal einen Neuanfang haben mit einer neuen Basis, sehr wenig Zeilen Code und alles von Grund auf neu und effizient gedacht.

Hmmm... und wer soll das machen? Microsoft, Google und Co.? Die Chinesen? Die UN?

Heute, wo die USA unter Trump am liebsten mit Putin unter eine Decke gehen wollen, wirst Du unmöglich alle wichtigen Parteien an einen Tisch kriegen...