News NSA und weitere US-Behörden: Claude Mythos knackt vertrauliche Systeme binnen Stunden

[qualle]

Komisch, wenn der Arzt ihnen sagt sie sollen Antibiotika nehmen wird das zähneknirschend hingenommen.

Langsam ist ja fraglich, wem man eher vertrauen sollte... dem Arzt oder Claude.

Es ist aber richtig, dass StO nichts bringt, und man auch die eigenen Systeme unter die Lupe nehmen sollte.

 

[Fraggil]

Kann mir nicht vorstellen das das ein Hindernis ist.

Deswegen wird ab 8 Juli auch eine Stufenweise Ausweispflicht eingeführt.

Ergänzung (24. Juni 2026)

Und China und andere Länder benutzen ihre Top Modelle zum attackieren. Kannst nicht verhindern. Wird jetzt ein Katz und Maus Spiel.
Wird spannend wie gut die öffentlichen Modelle werden. Sonst bekommen kleine und Mittelständler massive Probleme mit Dauer Hacking denke ich. Sonst wandert alles hinter Großen cloud Anbietern die das absichern können.

 

[Spike S.]

Ebenso sei es nötig, Secure-by-Design und Secure-by-Default zum Standard zu machen und die Resilienz zu stärken – diese dürfe nicht von einer einzelnen Lösung oder Technologie abhängen.

Damit wäre jede weitere Diskussion über E2E Verschlüsselung oder nicht, direkt abgekürzt 👍

 

[SSD960]

Sonst wandert alles hinter Großen cloud Anbietern die das absichern können.

Das hat man vor einiger Zeit bei MS gesehen. Hier waren die Chinesen unterwegs und haben Zeitifikate geklaut. In der Cloud ist perse nichts mehr sicher. Da hilft auch der zweite Faktor nur beschränkt.

 

[charmin]

@Andy
Gibt mittlerweile auch vom BSI eine Warnung:

https://www.bsi.bund.de/SharedDocs/Cybersicherheitswarnungen/DE/2026/2026-262788-1032

 

[chr1zZo]

Ich gebs zu, ich war es! <3 Claude

 

[Robert.]

Digitale Massenvernichtungswaffen, finanziert von einer Tech Elite

 

[Flutefox]

Gibt es eigentlich auch schon den umgekehrten Fall, wo irgendeine KI quasi ein System aktiv beschützt? Also nicht Code schreibt, für bessere Firewalls oder so, sondern im Hintergrund Datenverkehr analysiert und dann aktiv Maßnahmen ergreift, wenn sie Eindringlinge bemerkt?

Dafür müsste man KIs doch auch einsetzen können?

Zu viel Cyberpunk gespielt? Das ist nicht die Blackwall aus Cyberpunk.

 

[TausendWatt]

Dafür müsste man KIs doch auch einsetzen können?

Xdr

 

[Flutefox]

@TausendWatt XDR wei SentinelOne oder Crowdstrike haben aber nichts mit "AI" zu tun. es sind einfach nur sehr gute Heuristiken.

 

[madmax2010]

@Flutefox Heuristiken sind Entscheidungsprozesse / Suchstrategien in KI systemen
KI Systeme sind Systeme die entscheidungen automatisiert aufgrund vorliegender Umgebungsinformationen treffen.
https://www.pearsonhighered.com/assets/samplechapter/0/1/3/6/0136042597.pdf

 

[Manegarm]

Jemand ist Entscheider und muss überzeugt werden zu einem logischen Schritt. Und diese Leute weigern sich einfach. Aus Ignoranz und weil sie es nicht verstehen.
Komisch, wenn der Arzt ihnen sagt sie sollen Antibiotika nehmen wird das zähneknirschend hingenommen.

Niemand kann vorausahnen ob eine bakterielle Infektion kommt, weil man Antibiotika weglässt.
Es ist mehr eine relativ harmlose präventivmaßnahme gegen etwas was schnell tödlich enden kann. Denn bei einer Blutvergiftung können mal ganz schnell die Lichter ausgehen (auch wenn sie es irgendwann eh tun)

 

[chr1zZo]

Natürlich kann man AI nutzen als Defense. Gibt ja schon einige Hardware Firewall Hersteller die sowas nutzen. Ebenso kann man OpenSource System nutzen wie Netgate, ipfire, opnsense und dort sogar via AI eine Defense AI hinzufügen.

Und genau so nutzt man AI + diverse Tools als Beipsiel Kali oder Parrot und PenTested seine Software sowie Hardware. Und dann schließt man Lücken. Einfach ein Schritt vorraus sein!

 

[Spriti]

Natürlich. KI scheitert schon an einfachen verschachtelten Aufgaben, aber knackt vertrauliche Systeme in Stunden, natürlich auch noch Remote, ohne Quellcodes 🤡

 

[Randnotiz]

Jahre lang hatten alle die Hosen voll, wegen Quantencomputer und was diese mit aktuellen Sicherheitstechniken machen können.
Jetzt machen das A.I. Modelle.

Tjoa, shit happens.

 

[chr1zZo]

@Spriti also bei mir Scheitert nix? Denk dran, AI ist nur so gut wie sein Bediener! Wenn ich 8 Agenten (8 verschiedene AI Modelle, jeweils 1 Agent) auf eine Aufgabe laufen lasse, geht da nix schief. Du musst eben nur Wissen wie

 

[Haldi]

Weil Anthropic aber nicht zwischen US-Bürgern und ausländischen Nutzern unterscheiden kann, wurde der Zugang für alle blockiert.

Die sind auch unfähig...
Jede Pornoseite kriegt es hin das nur über 18 Jährige auf ihr surfen....

 

[chr1zZo]

@Haldi USA First halt! Onkel Trump sagt hier wo es lang geht Immerhin konnte ich die Tage, wo Fable 5 Verfügbar war, sehr gut nutzen ^^

 

[StephenFalken]

Natürlich. KI scheitert schon an einfachen verschachtelten Aufgaben, aber knackt vertrauliche Systeme in Stunden, natürlich auch noch Remote, ohne Quellcodes 🤡

wenn die KI scheitert, ist der Benutzer schuld, kann die KI nicht richtig steuern.
eine gute KI versteht komplexe Software in Minuten. wenn man ihr das wichtigste erklärt. und ihr erklärt wo sie suchen sollen, was sie verstehen soll usw.

 

[p-style]

Zu viel Cyberpunk gespielt? Das ist nicht die Blackwall aus Cyberpunk.

Danke für die nette Antwort auf meine ernst gemeinte Frage, weil ich im Thema nicht tief drin bin. Ich habe GEFRAGT.

Lesen und Verstehen sind dann eben doch 2 verschiedene Dinge und schafft nicht jeder...