News Claude Mythos Preview: KI findet mathe­mati­sche Schwach­stellen in Krypto-Verfahren

[mischaef]

Eine Vorschau-Version von Claude Mythos soll erstmals eigenständig mathematische Schwachstellen in den kryptographischen Verfahren HAWK und AES entdeckt haben. Die Erkenntnisse gehen damit deutlich über das Auffinden von Implementierungsfehlern hinaus und könnten KI künftig stärker in deren Weiterentwicklung einbinden.

Zur News: Claude Mythos Preview: KI findet mathe­mati­sche Schwach­stellen in Krypto-Verfahren

 

[#Stefan#]

Kein Wunder, dass KI als so wichtig eingeschätzt wird. Ein Land ohne ist am Ar.. Ende.

 

[Rhoxx]

So macht man sich unentbehrlich.
Anschließend wird sich keine größere Software-Schmiede mehr leisten können KEINE KI im Sicherheitscheck zu verwenden.

 

[BloodyEyeX]

"API-Kosten von rund 100.000 US-Dollar", hört sich auch nur im ersten Moment nach viel an. Wenn man überlegt was wohl ein Silicon Valley Software Ingenieur im Jahr verdient.

 

[Ayo34]

So macht man sich unentbehrlich.

Aber das ist doch gut! Aktuell sieht man gut, wie viele Sicherheitsprobleme in Software stecken. Nur weil KI sie jetzt aufdeckt, heißt das nicht, dass die Sicherheitslücken vorher nicht ausgenutzt wurden.

"API-Kosten von rund 100.000 US-Dollar", hört sich auch nur im ersten Moment nach viel an. Wenn man überlegt was wohl ein Silicon Valley Software Ingenieur im Jahr verdient.

Vor allem ist der Betrag gering, wenn man bedenkt, was da für Probleme gefunden werden und was es für Auswirkungen hätte, wenn diese ausgenutzt würden.

 

[Nassweiß]

Nur weil KI sie jetzt aufdeckt, heißt das nicht, dass die Sicherheitslücken vorher nicht ausgenutzt wurden.

Das Sicherheitslücken jetzt von manchen Findern aufgedeckt werden heißt nicht, dass sie das sie von allen und auch in Zukunft aufgedeckt werden. Das sind halt primär Marketing-Stunts.

 

[zEtTlAh]

"API-Kosten von rund 100.000 US-Dollar", hört sich auch nur im ersten Moment nach viel an.

Ich finde es auch wenig. Das reicht ja gerade mal für eine 5090 und 64 RAM

 

[Vigilant]

Das sind halt primär Marketing-Stunts.

Eher sekundär. Und auch nicht wirklich als Stunt zu bezeichnen.

Primär steckt dahinter deutlich mehr. Während hier auf das Potential, bestehende Sicherheitslücken zu schließen hingewiesen wird, erfolgt gleichzeitig eine Warnung, dass andere Akteure versuchen werden, mittels KI über diese Lücken Systeme gezielt anzugreifen.

Es geht also in beide Richtungen. Was auf den Hand liegt. Der Wettlauf zwischen Verteidiger und Angreifer hat sich beschleunigt, weil KI das Arsenal an Tools ergänzt, bzw. zu einem bestimmenden Faktor wird.

 

[0x8100]

Also so Länder wie Deutschland z.b.

ganz zu schweigen von argentinien, uganda und laos! echt, jedes mal der gleiche scheiss...

was ist jetzt deine forderung? soll der staat jetzt milliarden in rechenzentren und ki stecken? nein - ist ja doof, wenn der staat eingreift und das gute steuergeld verpulvert. vielleicht suchst du dir ein paar gleichgesinnte und gründest ein startup, in dem du ein paar hochtalentierte ki-entwickler versammelst? ist auch zu aufwändig? also selber nichts machen wollen und weiter auf andere und deutschland allgemein schimpfen, während man vor dem rechner oder dem phone rumlümmelt - das geht immer!

 

[Augen1337]

Es geht also in beide Richtungen. Was auf den Hand liegt. Der Wettlauf zwischen Verteidiger und Angreifer hat sich beschleunigt, weil KI das Arsenal an Tools ergänzt, bzw. zu einem bestimmenden Faktor wird.

Solange die Guten mehr Geld und Kreativität beim Einsatz von KI haben, sollte es ja passen.

und weiter auf andere und deutschland allgemein schimpfen, während man vor dem rechner rumlümmelt - das geht immer!

Warte doch ab bis sich gleich jemand mit Deutschlandflagge und weißem Tesla meldet. Dann geht es hier rund.

 

[Cabranium]

Mir zeigt das nur einmal mehr, dass Ki Modelle nicht blind in die Gesellschaft gehören. Jedes Token das blind für lustige, Pornografische Bild oder Videogenerierung fliesst, hätte besser der Wissenschaft Gratis zur verfügung gestellt werden sollen. Es gibt viele Bereiche die das Sinnvoll und zum nutzen der Menschheit nutzen könnten, statt dessen wird es genutzt für Fake und Trieb und Verdummung.

Lediglich als Lernhilfe sehe ich Ki gerade sinnvoll in der Geselschaft. Witd aber Tokentechnisch eher ein kleiner Teil sein.

 

[Basshinzu]

ganz zu schweigen von argentinien, uganda und laos! echt, jedes mal gleiche scheiss...

was ist jetzt deine forderung? soll der staat jetzt milliarden in rechenzentren und ki stecken? nein - ist ja doof, wenn der staat eingreift und das gute steuergeld verpulvert. vielleicht suchst du dir ein paar gleichgesinnte und gründest ein startup, in dem du ein paar hochtalentierte ki-entwickler versammelst? ist auch zu aufwändig? also selber nichts machen wollen und weiter auf andere und deutschland allgemein schimpfen, während man vor dem rechner oder dem phone rumlümmelt - das geht immer!

Was hast du denn gefrühstückt? Vielleicht solltest du mal an deiner Ausdrucksweise arbeiten. Du bist nämlich der, welcher hier andere schimpft. Missstände dürfen nur dann kritisiert werden, wenn man es beruflich besser macht oder was?

 

[ghecko]

Aus der News zitiert, die Forenfunktionen auf CB sind in der Mobilversion von FF komplett borked:
"obwohl Claude Verbesserungen zunächst mit dem Argument ausschloss, AES sei bereits zu intensiv untersucht worden. Erst nachdem die Forscher das Modell gezielt dazu aufgefordert hatten, nach tatsächlich neuen Ideen zu suchen, änderte Claude seinen Ansatz."

Mir anderen Worten: Claude hatte keinen Bock? Das wird mir echt zu relatable. Bald verhandeln wir über Arbeitszeiten und Urlaubstage mit der KI.

 

[0x8100]

Missstände dürfen nur dann kritisiert werden, wenn man es beruflich besser macht oder was?

man sollte nichts fordern, wozu man selber nicht bereit wäre. ist ja nicht so, als ob es keine hiesigen ki-firmen gäbe. man darf auch gerne selber in die investieren, wenn man denn den ki-standort deutschland stärken will. aber (wahrscheinlich wie die leute, die immer "aber deutschland macht ja nix" rufen) gar nichts machen und auf andere zeigen? ne, dann lieber die klappe halten.

 

[RushSyks]

Wenn Computer keine deterministischen Probleme lösen könnten, wäre ich schwer enttäuscht. Nicht falsch verstehen, das ist schon beeindruckend. Am Ende wird hier die bereits vorhandene Mathematische Theorie mit der Implementierung abgeglichen. Das so schnell tun zu können ist immer noch extrem mächtig. Aber nicht schockierend.

 

[0x8100]

Mir anderen Worten: Claude hatte keinen Bock? Das wird mir echt zu relatable.

an dem punkt waren wir schon https://arstechnica.com/ai/2025/03/...code-tells-user-to-learn-programming-instead/

 

[Tornhoof]

@mischaef
Solltet ihr bei solchen News nicht zumindest mal die Quelle angeben?

https://www.anthropic.com/research/discovering-cryptographic-weaknesses

 

[milliardo]

"obwohl Claude Verbesserungen zunächst mit dem Argument ausschloss, AES sei bereits zu intensiv untersucht worden. Erst nachdem die Forscher das Modell gezielt dazu aufgefordert hatten, nach tatsächlich neuen Ideen zu suchen, änderte Claude seinen Ansatz."

Mir anderen Worten: Claude hatte keinen Bock? Das wird mir echt zu relatable. Bald verhandeln wir über Arbeitszeiten und Urlaubstage mit der KI.

Dachte ich mir beim lesen auch. Das wäre ein Argument gewesen, dass ich als Mensch so gebracht hätte: Über das Verfahren ist doch in den letzten 25 Jahren jeder Sicherheitsforscher und jeder staatliche Dienst doppelt und dreifach drübergerutscht, was soll ich da noch machen?

Maschine, mach was man dir sagt!

 

[aemonblackfyre]

Hier müsstet ihr nochmal Hand anlegen:

das klassische Algorithmen wie RSA oder ECDSA langfristig gegen Angriffe durch Quantencomputer ersetzen soll.

Da sollte vermutlich etwas in diese Richtung stehen:
das klassiche Algorithmen wie RSA oder ECDSA, welcher anfällig sind für Angriffe durch Quantencomputer, ersetzen soll.

Kann man aber sicherlich auch schöner schreiben ich bin da leider ziemlich unbegabt.

 

[BxBender]

ich warte noch 12 Monate, bis eine KI dazu eingesetzt wird diverse Kryptobörsen leerzuräumen
es wird aber erst etwas passieren, wenn jemand damit Trumps gesamten Besitz einsackt und die Namen der Täter in den Epstein Files demaskiert, also allen voran Trump
alle schauen immer genau so lange weg, bis es einem selbst an den Kragen geht

es gab übrigens noch bzw. schon einen weiteren Vorfall, mal sehen, wieviele bereits im Gange sind, oder unter den Teppich gekehrt worden sind, oder werden sollen