News Claude Mythos Preview: KI findet mathe­mati­sche Schwach­stellen in Krypto-Verfahren

[Vigilant]

Missstände dürfen nur dann kritisiert werden, wenn man es beruflich besser macht oder was?

Nein, absolut nicht. Die generelle Kritik bezog sich auf den dahingerotzten, sinnentleerten Beitrag mit expliziten und kontextlosen Bezug auf Deutschland, die zumindest ich teilen kann.

 

[Caramon2]

"obwohl Claude Verbesserungen zunächst mit dem Argument ausschloss, AES sei bereits zu intensiv untersucht worden. Erst nachdem die Forscher das Modell gezielt dazu aufgefordert hatten, nach tatsächlich neuen Ideen zu suchen, änderte Claude seinen Ansatz."

Mir anderen Worten: Claude hatte keinen Bock? Das wird mir echt zu relatable. Bald verhandeln wir über Arbeitszeiten und Urlaubstage mit der KI.

Die Passage wollte ich auch zitieren.

Mich erinnert das an die zuschaltbare Funktion "tiefer nachdenken" der Opera-KI (Android):

Als ich die getestet habe, wurde die KI auch faul: Es ist mehrfach passiert, dass sie mir statt einer Lösung nur beschrieben hat, wie ich selbst nach einer Lösung suchen kann. - Und dafür hat das Ding immer wesentlich länger gebraucht, als beim "normalen" nachdenken.

Deshalb nutze ich die Funktion nicht mehr.

 

[OpticalFiber]

Für das ist die K.I. gut um Fehler in Programmen zu finden. Die Frage ist nur hätte diese Fehler ein Mensch gefunden irgendwann mal?

 

[Vigilant]

es gab übrigens noch bzw. schon einen weiteren Vorfall, mal sehen, wieviele bereits im Gange sind, oder unter den Teppich gekehrt worden sind, oder werden sollen

Niemand mit betrügerischen, kriminellen Absichten hat ein Interesse an Transparenz, dicht gefolgt von Unternehmen, die evtl. ihr Geschäftsmodell gefährdet sehen. 😉

 

[ghecko]

Die Frage ist nur hätte diese Fehler ein Mensch gefunden irgendwann mal?

Mit unbegrenzter Zeit und unbegrenzten Ressourcen sicher. Aber mit Ki wird es halt deutlich beschleunigt.

 

[bytzmaster]

man sollte nichts fordern,

Klar darf man fordern! Ich fordere von Fleischer auch gute Qualität, weil ich kein Schwein schlachten kann. Um diese Qualität er erhalten, müsste ich jetzt deine Aussage nach, selber Fleischer werden...Ganz schön weltfremd! Und da es hier auch um den Standort Deutschland ging, darf man ausdrücklich die Politik auffordern die richtigen Rahmenbedingungen zu schaffen!
Das ist nicht meine Aufgabe als Bürger, der ja schon ein Leben zu bestreiten hat, das ist die Aufgabe derer, die meine Stimme erhalten haben.

 

[###Zaunpfahl###]

Maschine, mach was man dir sagt!

Ein LLM ist aber ein gefühlt unendlich großes Spinnennetz das die Wahrscheinlichkeit der nächsten Wörter abwägt. Darum streitet man noch, ich bin der Meinung wir machen das genauso.
Naja jedenfalls ist in den Daten dafür auch für LLM Statistisch relevant, das es schon oft genug untersucht worden ist und das gibt es halt wieder.

Die "Maschine" und wir "nicht Maschinen" handeln halt nachdem was wir gelernt also abgespeichert haben. Nur wir machen daraus Persönlichkeit oder nicht. Am Ende ist es nur Verarbeitung von Daten.

Der Hauptunterschied zu uns ist, das die Maschine nicht in unserer Welt aufwächst und großgezogen wird aber mit Daten unermesslichen Ausmaßes geflutet (trainiert) wurde. Wie bekannt ist die "Maschine" auch in der Lage zig verschiedene Persönlichkeiten zu schlüpfen, das fällt uns je nach Talent der "nicht Maschine" tendenziell schwieriger

Schon mal die Frage gestellt was wir eigentlich Nachts im Bett machen?

 

[0x8100]

Das ist nicht meine Aufgabe als Bürger, der ja schon ein Leben zu bestreiten hat, das ist die Aufgabe derer, die meine Stimme erhalten haben.

dann solltest du schauen, wen du gewählt hast und ob deren politik auch mit deinen erwartungen übereinstimmen. entweder falsch gewählt oder wahlversprechen nicht eingehalten - musst du jeweils konsequenzen draus ziehen. aber damit wirst du eben tätig und forderst nicht einfach nur.

 

[mischaef]

ganz zu schweigen von argentinien, uganda und laos! echt, jedes mal gleiche scheiss...

Manche müssen halt irgendwie ihr Deutschland-Bashing unterbringen. Man sollte sich mal anschauen, wie Dinge in anderen Ländern sind, den USA aktuell beispielsweise. Ich Folge in letzter Zeit vielen Kanälen von Amerikanern, die nach Europa bzw. nach Deutschland gekommen sind. Wenn die erzählen, was hier anders und vor allem besser ist (und das ist einiges)....da habe ich einen ganz anderen Blick auf Deutschland bekommen.

Ja, die aktuelle Regierung ist für den Popo, das hat sich die letzten Tage wieder gezeigt und ich bin davon überzeugt, dass Merz seine volle Amtszeit politisch nicht überleben wird. Aber dennoch ist hier nicht alles schlecht, dass es eine Endzeitstimmung braucht.

Aber hier meckern die Leute ja schon, wenn sie für ihren Krankenhausaufenthalt 10 Euro am Tag dazuzahlen müssen....kannste dir nicht ausdenken...

 

[hardwärevreag]

man sollte nichts fordern, wozu man selber nicht bereit wäre. ist ja nicht so, als ob es keine hiesigen ki-firmen gäbe. man darf auch gerne selber in die investieren, wenn man denn den ki-standort deutschland stärken will. aber (wahrscheinlich wie die leute, die immer "aber deutschland macht ja nix" rufen) gar nichts machen und auf andere zeigen? ne, dann lieber die klappe halten.

Vielleicht solltest du erstmal dafür sorgen, dass überhaupt jeder einen Job abbekommt oder ein Startvermögen. Aber vllt. bist du ja auch einfach ein neureicher oder altreicher Pinkel, der uns Bauern sagen möchte, dass unsere Armut ihn ankotzt.

 

[mischaef]

@hardwärevreag
Das wird es nie mehr geben, so viel Arbeit ist nicht mehr da. Deswegen bedingungsloses Grundeinkommen, dafür der Mindestlohn um die Hälfte gekürzt, haben die Unternehmen auch etwas davon. Die Bürger sollen ja nicht zwangsweise besser darstehen, sondern alle auf dem selben Grundniveau. Nur eine von vielen Maßnahmen.

 

[Raul99]

Schon mal die Frage gestellt was wir eigentlich Nachts im Bett machen?

Snacks essen, bumsen ? Also Dinge durch die wir wirklich erst existieren

 

[hardwärevreag]

Oh, ich würde in meiner Tagesfreizeit schon auch dabei mithelfen die Ungleichheit im Land zu reduzieren, indem ich mir die Reichen vorknöpfe, die uns den Schlamassel doch erst einbringen. Egal, ob KI, Klima oder irgendetwas anderes. Stets sollen wir einfachen Menschen die Zeche für die Extravaganzen der Reichen zahlen. Ich habe es so satt ...

 

[mischaef]

@hardwärevreag
Das kann ich nachvollziehen. Dann politisch engagieren und Änderungen herbeiführen. Alles fängt im Kleinen an. Aber dazu haben die meisten dann auch wieder keinen Bock. Das sollen dann auch wieder die anderen machen.

@Raul99, @###Zaunpfahl###
Aktuell wegen der Hitze bei 30 Grad unterm Dach nicht schlafen können und nachts um 3 Uhr News für CB schreiben? ^^

 

[Vigilant]

Spalten und Entzweihen als Handlungsprinzip bringt uns am Ende aber nicht weiter und spielt nur den falschen Leuten in die Agenda.

Und den Thread bring es auch nicht weiter, wenn wir uns noch weiter vom Topic entfernen 😉 .

Ich meine aber generell zu beobachten, nicht nur hier, dass der Gesprächsbedarf über diese Aspekte des Lebens deutlich zunimmt.

 

[fullnewb]

Ich finde diese News ziemlich beeindruckend.

Natürlich ist das nicht das erste mathematische Problem, dass nur durch den Einsatz von KI gelöst werden konnte.

Ich kann mich aber nicht daran erinnern, schonmal von einer hauptsächlich autonom agierende KI gehört zu haben, die einen neuen Angriffsvektor auf ein mathematisches Verfahren gefunden hat.

Hut ab, es geht vorran. Ob das nun etwas Gutes ist, das werden wir wohl erst in ein paar Jahren wissen.

Besonders spannend wird wohl, ob sich diese KI Unternehmen langfristig kostendeckend finanzieren können. Und welchen Preis der Einsatz von KI dann letztlich fordert.

 

[dev/random]

Vor allem ist der Betrag gering, wenn man bedenkt, was da für Probleme gefunden werden und was es für Auswirkungen hätte, wenn diese ausgenutzt würden.

Für ein rein akademisches Forschungsergebnis - und mehr ist diese Veröffentlichung nicht - finde ich $100.000 eher viel.
Anthropic schreibt selber dass ein auf diesen Erkenntnissen aufbauender Angriff auf full-round AES sicherlich hunderte Millionen Dollar erfordern würde (und trotzdem nicht praktikabel wäre).

Ich sehe vor allem zwei praktische Auswirkungen:
1. LLMs sind ein weiteres Sicherheits-Werkzeug das neue Erkenntnisse und Angriffe aufzeigen kann. So wie fuzzing vor einiger Zeit.
2. AES ist trotz aller neuen Angriffsmethoden immer noch erstaunlich resistent.

Was ich aus der Verōffentlichung nicht ableiten kann, ist der Einsatz von KI als Wunderwaffe von oder gegen Angreifer.
Angriffe - vor allem auf Kryptografie - werden in Komplexität, Zeit und Geld gemessen. LLMs werden diese Faktoren nicht einfach reduzieren, sondern eher die Gewichtung ändern. Wenn LLM Agenten einen Angriff viel schneller durchführen können, werden die Kosten dafür höher sein als auf konventionelle Art. Komplexitätstheoretische Limits können aber auch von einem LLM nicht gebrochen werden.

 

[Ayo34]

Für ein rein akademisches Forschungsergebnis - und mehr ist diese Veröffentlichung nicht - finde ich $100.000 eher viel.
Anthropic schreibt selber dass ein auf diesen Erkenntnissen aufbauender Angriff auf full-round AES sicherlich hunderte Millionen Dollar erfordern würde (und trotzdem nicht praktikabel wäre).
...

AES war ja noch mal etwas anderes und hatte nichts mit den 100.000 $ für HAWK zu tun. Das ist aber eine Krypto-Verschlüsselung, die damit geworben hat, viel effizienter zu sein. Jetzt ist es aber nur noch „halb” so sicher bzw. nicht mehr besser als andere Krypto-Verschlüsselungen. Natürlich ändert das einiges. Vielleicht wird es jetzt kein Standard mehr.

Und wenn man dann bedenkt, wie viele Forscher sich mit HAWK beschäftigt und kontrolliert haben, dann sind die 100.000$ eben nicht mehr viel Geld.

 

[daVinci]

Erstmal vorweg: Ich liebe die Qualität eurer Artikel 🙌.

Interessant wird es um so mehr, wenn sich das System gegenseitig hochschaukelt, indem es durch die Fehlersuche die Sicherheit erhöht aber gleichzeitig eben auch immer bessere Wege sucht, 'die Nuss zu knacken'. Ich glaube auch, dass KI den Durchbruch im Software Bereich zur Nutzung von Quantencomputer bringen wird, wo nicht allein der Bau der Maschine das einzige Problem darstellt.

 

[gartenriese]

Immer schön im Hinterkopf behalten, dass dank den Deals mit Trump auf jede Veröffentlichung einer gestopften Sicherheitslücke bestimmt zehn nicht veröffentlicht werden die dann für die NSA usw. offen bleiben