News NSA und weitere US-Behörden: Claude Mythos knackt vertrauliche Systeme binnen Stunden

Andy

Tagträumer
Teammitglied
Registriert
Mai 2003
Beiträge
8.446
  • Gefällt mir
Reaktionen: herrStreusalz, nERdWIN, #Stefan# und 6 andere
Security by Obscurity war nie ein gutes Konzept. Die Schwachstellen sind ja da, auch ohne Mythos. Also lieber in einem eigenen Audit die Schwachstellen entdecken lassen und patchen, als dass es andere tun...
 
  • Gefällt mir
Reaktionen: flo.murr, TecTurtle, Exlua und 31 andere
Die Frage ist, wieviel solcher News sollen noch folgen bis es Wirkung zeigt?
Jeder hier der in der IT arbeitet hatte vielleicht mal diesen Fall.
Jemand ist Entscheider und muss überzeugt werden zu einem logischen Schritt. Und diese Leute weigern sich einfach. Aus Ignoranz und weil sie es nicht verstehen.
Komisch, wenn der Arzt ihnen sagt sie sollen Antibiotika nehmen wird das zähneknirschend hingenommen.
 
  • Gefällt mir
Reaktionen: flo.murr, herrStreusalz, Fritzler und 6 andere
Würde ich irgendwo zwischen loses Gerücht und alles ist mit bestehendem tooling knackbar einordnen.
Ein senator hat das in einem Interview gesagt, nachdem ein General ihm das irgendwo erzählt hat. Bisschen dünn.
Bisschen klickbait dachte ich gestern im economist

Andererseits geht mit LLMs schon sehr zielgerichtetes fuzzing, pentesting, bei dem auf mehren Pfaden sehr schnell und effizient tool für tool in verschiedensten configs ausprobiert wird, informationen über das Ziel gesammelt werden,bekannte Lücken abgeklopft und bestehende exploits modifiziert werden.
Wir finden damit definitiv Lücken in 2-3 Tagen, die sonst übersehen worden wären oder Monate gekostet hätten.

Auch zur malware Analyse wirklich heftig.
Dissassembler und voller annotierter call tree in 2 Stunden, gereinigtes neu gebautes binary in kaum mehr Zeit macht schon Spaß.
An der Stelle arbeiten wir vor allem mit aktuelleren qwen Modellen und kimi

(und volle Zustimmung bei @steirerblut weiter unten)
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Brrr, DeusExMachina, Paddinski und 4 andere
Genau, das sollte ja auch der Ansatz sein. Habe schon Meinungen gehört, dass Antropic hier der "Böse" ist, weil sie ein solches Modell entwickelt haben. Das Problem dabei ist meiner Meinung aber, dass ein solches Modell sowieso irgendwann entstanden ist, wenn nicht von Antropic dann halt von wem anders. Da ist es mir also viel lieber, dass ein solches Modell existiert mit der Hauptaufgabe solche Schwachstellen zu entdecken, als anders rum.

Was dies natürlich nun zur Folge hat ist folgenschwer: So ziemlich jeder muss damit seine Software prüfen um die Schwachstellen zu identifizieren und diese zu patchen. Idealerweise wird nun also nur der Updatecycle von Software stark beschleuningt und Patches kommen häufiger mit Fixes. Aber auch das ist leider nur die Hälfte der Lösung, da die Kunden welche solche Software benutzen ihre Umgebung auch patchen müssen. Um als Beispiel VMware zu nehmen, hier laufen viele Workloads von extrem Kritischen Applikationen (Banken, Öffentliche Verwaltung, Stromversorgung etc.) welche natürlich teilweise exponiert sind ins Internet. Nun müssen alle Layer für dies gesichert werden, sprich Firewall, LoadBalancer, WAF, Hypervisor und auch die Applikation selbst. Viele sind nun leider so aufgestellt, dass die Applikation vielleicht regelmässig gepatched wird, der Hypervisor Layer aber nur alle 6 Monate oder so und die Firewall und LoadBlanacer noch seltener. Da diese Schwachstellen aber erfahrungsgemäss nicht nur den Entwicklern der Software bekannt sind sondern eben auch Thread Actors wird es immer wichtiger seine eigene Strategie zu überdenken und Patches schnellstmöglich zu implementieren, auch wenn dies unter Umständen häufigere und grössere Wartungsfenster bedeuten kann und dann halt die Strategie im Unternehmen sich anpassen muss.
 
Sowas passiert wenn Menschen nicht miteinander sprechen. Irgendein mixed Red-Team Szenario (in dem Mythos nur eine Komponente war) geht durch, Geschäftsführung steht innerhalb von Minuten nicht parat Wochenende steht vor der Tür -> Schnell mal komplett sperren lassen.
Es zeugt davon das die Verantwortlichen mit der Situation komplett überfordert waren, es also vielleicht gar nicht so schlecht ist wenn hier etwas auf die Bremse getreten wird. Ob man jetzt daran glaubt das sich Regierungen mehr Kompetenzen aneignen um im Gefahrenfall tatsächlich besser reagieren zu können sei mal dahin gestellt. Dazu müsste man primär auf Experten hören wollen; traditionell hat das meistens nicht so gut funktioniert.
 
  • Gefällt mir
Reaktionen: JumpingCat, sioh und madmax2010
„I hacked 127.0.0.1“
 
  • Gefällt mir
Reaktionen: slow_snail, metoer, cvar und 10 andere
Gibt es eigentlich auch schon den umgekehrten Fall, wo irgendeine KI quasi ein System aktiv beschützt? Also nicht Code schreibt, für bessere Firewalls oder so, sondern im Hintergrund Datenverkehr analysiert und dann aktiv Maßnahmen ergreift, wenn sie Eindringlinge bemerkt?

Dafür müsste man KIs doch auch einsetzen können?
 
  • Gefällt mir
Reaktionen: Salrok, AlienModulative, CountSero und 2 andere
@p-style die false positiv Rate ist dafür viel zu hoch. Du hättest ein nicht mehr benutzbares System oder eins, das dich nicht schützt.
 
  • Gefällt mir
Reaktionen: SirSinclair
Oh, mal wieder ein politischer Täuschungsversuch?

Denke die Sperre wird als Druckmittel genutzt um Anthropic zu zwingen, ihre AI für die Kriegsführung und Überwachung freizugeben. OpenAI scheint ja nicht gut genug zu sein.

Und ohne AI wären die Sicherheitslücken kein Problem? 🤡 Denken die USA eigentlich, alle anderen wären verblödet?

Glaube kaum, dass eine Behörde so dumm ist und Systeme mit sensiblen Daten mit dem Internet verbindet, und kein vollkommen abgetrenntes Intranet benutzt. Kein Kabel - Kein hack. Vollkommen egal ob 1000 Chinesen binaries reversen, Russen Opensource-Bibliotheken verseuchen oder Claude Systeme halbautomatisch analysiert.

Wie mächtig ist das aktuelle opensource GLM 5.2? Ist das nicht sogar gleichwertig oder stärker? Was soll dafür die Lösung sein, nur noch "geringe Mengen" an Hardware dürfen an nicht-USA Unternehmen verkauft werden? Die Katze ist eh ausm Sack, und wenn nicht dann kommt sie in den nächsten Monaten raus. (...oder auch in Jahren, wenn die Katze Copilot heißt.)
 
Weil Anthropic aber nicht zwischen US-Bürgern und ausländischen Nutzern unterscheiden kann, wurde der Zugang für alle blockiert.
Kann mir nicht vorstellen das das ein Hindernis ist.
 
Tut mir Leid, aber für jeden, der das jetzt tatsächlich als unglaubwürdig, ungewöhnlich, unrealistisch, oder sonstiges abtut, sollte darüber nachdenken, ob er das Diskutieren im Forum nicht lieber bleiben lässt.
 
  • Gefällt mir
Reaktionen: fox40phil und ChrissKrass
Jetzt braucht bald jede Behörde, Firma eine eigene KI, die das System nach außen hin schützt.. Mal sehen, wo das endet..
 
  • Gefällt mir
Reaktionen: fox40phil
p-style schrieb:
Dafür müsste man KIs doch auch einsetzen können?
Macht man seit ca 15 Jahren
Ergänzung ()

aLanaMiau schrieb:
Wie mächtig ist das aktuelle opensource GLM 5.2? Ist das nicht sogar gleichwertig oder stärker?
Als die ersten Mythos hype news kamen, hat man mit Modellen der Klasse llama3 70b aus 2024 fast alles reproduzieren können. Kommt nur aufs tooling, prompting und die Umgebung generell an
Ergänzung ()

aLanaMiau schrieb:
Glaube kaum, dass eine Behörde so dumm ist und Systeme mit sensiblen Daten mit dem Internet verbindet, und kein vollkommen abgetrenntes Intranet benutzt. Kein Kabel - Kein hac
Bundestag. Jede 2. Behörde, leider ist das der default. Lies ein beliebiges post mortem.
Für den Einstieg, such nach Bundestag hack moodle.

Oder schau dir an wie gsmr konzipiert ist und welche Angriffsvektoren da so gehen. Für kritis echt heftig peinlich. Was passieren kann sahen wir gestern abend. Auf die Aufarbeitung bin ich gespannt.

War es ein gelangweilt 12 jähriger mit chatgpt und hardware im Wert von 50 Euro?
War es eigenes verschulden?
 
Zuletzt bearbeitet:
Gerade hab ich noch versucht mit Copilot/gemini eine excel in die andere zu befüllen - und das 30 min. Und nix hat geklappt. Und Mythos soll das können.

Irgendwas stimmt hier nicht 😂
 
  • Gefällt mir
Reaktionen: Haldi
Wakasa schrieb:
Die Frage ist, wieviel solcher News sollen noch folgen bis es Wirkung zeigt?
Welche Wirkung meinst du?
Sicherheitslücken müssen erst einmal gefunden werden. Das kostet Zeit und Personal.

Es wurden schon immer Systeme gehackt, auch von großen Einrichtungen. Das ist jetzt nichts neues was durch die KI kommt.
 
Wie gut so ein Exportbann wohl wirkt, wenn gleichzeitig regelmäßig Meldungen zu Nordkoreanischen Mitarbeitern in großen US-Firmen bekannt werden?
Da über solch einen Remotearbeitsplatz passende Sicherheitsfirma gründen und das Modell bei Anthropic mieten dürfte kaum Mehraufwand bedeuten.
 
  • Gefällt mir
Reaktionen: knoxxi
Zurück
Oben