News Autonom Sicherheitslücken ausnutzen: BSI warnt vor Konsequenzen von Modellen wie Claude Mythos

[Erzherzog]

Katz und Maus, wie immer.
KI bietet Chancen und Risiken, im Gegensatz zu manchem Kommentator hier ist es sehr wohl in Ordnung das die Gesellschafft sich darüber Gedanken macht und sich überlegt, wie weit man gehen möchte. Man kann ethische Grenzen setzen und sollte diese auch. Die Möglichkeiten sind langfristig unendlich und der Mensch ist nicht dazu gemacht künstlich zu leben. Jede weitere Diskussion artet hier zu sehr aus, in jedem Fall sollte man noch selbständig Denken und sich klar sein das man ein Lebewesen ist und das ganze Thema wie z.B. hoch verarbeitete Lebensmittel dem Menschen nicht nur Fortschritt, sondern auch gesundheitliche Risiken bringt.

 

[randomdude87]

Das sehe ich nicht so. Wir könnten uns anpassen, aber die Welt ist voller Knallköpfe die immer noch der Meinung sind, dass KI nur eine andere Bezeichnung für Siri und Alexa ist. Wie oft muss ich hier lesen das KI zu nichts zu gebrauchen ist und der ganze Hype drum rum Quatsch sei - erst neulich noch zur Mythos-News. Man muss kein Terminator Szenario an die Wand malen, aber die Leute verkennen einfach, wie gut KI heute schon ist.

Ihr müsst alle mal klar kommen und akzeptieren, dass die Entwicklung keine Blase ist und wir vor einem echten Paradigmen Wechsel stehen. KI wird unsere Gesellschaft sehr nachhaltig verändern, mehr als jedes andere Ereignis in der Menschenheitsgeschichte jemals zuvor. KI ist ein Weltwunder der Neuzeit. Im Prinzip können wir hier eine neue Zeitrechnung starten. Due Menschen und ihre Verbohrtheit sind das Problem, nicht die Geschwindigkeit der Anpassung.

Ja und in Amerika sind die Waffen

Eine freie Gesellschaft möchte nicht jeder? Das würde ich bezweifeln. "Frei" wohlgemerkt nicht im Sinne von FDP-Marketing, sondern von tatsächlich frei. Und dass sich Interessen ändern ist klar, du wählst ja aber auch nicht nur einmal im Leben. Also zumindest die meisten nicht.

dann lässt man die Ki eben über seine Software laufen und fixt die Probleme sehe da jetzt nicht das Problem dann müssen eben neue Funktionen hinten anstehen...

Ergänzung (11. April 2026)

Die Freiheit des einen, ist die Unterdrückung des anderen ! Es werden nie alle im Glück frei sein, leider...

So müsste die Welt aber nicht sein, ist schließlich kein Naturgesetz

 

[gollum_krumen]

Die Freiheit des einen, ist die Unterdrückung des anderen ! Es werden nie alle im Glück frei sein, leider...

Das kann man so sehen, aber danach streben (in ihrer eigenen Perspektive von Freiheit) tun doch alle? Das ist doch überhaupt der Sinn des Politischen.

 

[Ganjafield]

Solche Ki aus China macht dem Westen und deren Geheimdiensten noch viel mehr Angst. Irgendwie glaube ich aber nicht dass heutige Ki alle Sicherheitlücken finden und fixen kann. Bis es soweit ist wird es aber genug Ki geben die einige Sicherheitslücken findet, die wiederrum die Geheimdienste nutzen werden. Gibt es deshalb keine High End Ki Karten mehr für China? Vermutlich.....

 

[wildfly]

Anthropic hat nun ein Konsortium namens "Project Glasswing" gegründet. Die Idee: Große Technologieunternehmen wie Apple, Amazon, Microsoft, Google und Cisco erhalten Zugang zu Mythos, um damit Schwachstellen in ihren eigenen Systemen aufzuspüren und zu schließen. Auch die Linux Foundation, die IT-Sicherheitsfirmen CrowdStrike und Palo Alto Networks gehören zu den Partnern. Anthropic investiert nach eigenen Angaben bis zu 100 Millionen Dollar in das Projekt.
Für Europa und Deutschland wäre das auch eine Frage der nationalen und europäischen Sicherheit. Denn unter den Gründungspartnern von Project Glasswing findet sich kein einziges europäisches Unternehmen. Das wirft die Frage auf, ob Europa beim Zugang zu den leistungsfähigsten Sicherheitswerkzeugen außen vor bleiben könnte.

 

[Pizza!]

Tja, Kriminelle und Geheimdienste werden solch Ki ebenfalls zu nutzen wissen und schleunigst Angriffspunkte suchen.

Das Ki Zeitalter ... 🤞

 

[Syntax_41]

@Pizza! das können beide seiten machen von daher habe ich da wenig angst