News Autonom Sicherheitslücken ausnutzen: BSI warnt vor Konsequenzen von Modellen wie Claude Mythos

[Robert.]

Die perfekte Angriffswaffe diese KI.

 

[randomdude87]

Gott bin ich froh, wenn ich endlich Tod bin, hoffe KI kann dabei behilflich sein

 

[0x8100]

hoffe KI kann dabei behilflich sein

ki könnte heute schon den unterschied zwischen "Tod" und "tot" erklären...

 

[Biedermeyer]

'Nicht fuer die Allgemeinheit...'

...bedeutet nichts anderes:

• wir sind verloren
• jeder bekommt Zugriff
• was techn. moeglich ist, wird gemacht.

frueher od. spaeter...

 

[ElectricStream]

Wer Mythos oder vergleichbare Systeme nutzen will, zahlt irgendwann keine Peanuts mehr, sondern Summen, bei denen klar ist, für wen das Ganze eigentlich gedacht ist. Und ganz ehrlich: Aus Sicht der Konzerne ergibt das sogar Sinn. Die wollen nicht, dass irgendein Noob mit genug Rechenleistung und der richtigen Anleitung plötzlich Sicherheitslücken industrialisiert ausnutzt.

Die allgemeinen KIs werden deshalb vermutlich bewusst auf einem Niveau gehalten, auf dem der normale Nutzer ein bisschen coden, automatisieren und spielen kann. Die richtig dicken Dinger gehen dann an Konzerne, Staaten und ausgewählte Partner. Cyberpunk mit Arasaka, Militech und ihren Konzern-KIs ist da gar nicht mehr so weit weg, wie viele denken.

Und stellt euch mal vor, der technische Fortschritt wäre plötzlich wieder stärker vom Fußvolk beeinflussbar. Genau das will man doch an vielen Stellen gerade nicht. Es geht dabei nicht nur um Sicherheitslücken. Die Finanzsysteme werden auch deshalb nervös, weil man sich leicht ausmalen kann, was passiert, wenn eine KI mit passender Schnittstelle eigenständig Fast Trading fährt, parallel Nachrichtenlage, Marktstimmung und geopolitische Ereignisse auswertet und daraus in Echtzeit Entscheidungen ableitet.

Da reden wir längst nicht mehr nur über ein paar Exploits. Da reden wir über Macht, Kontrolle und darüber, wer die nächste Stufe technologischer Hebel überhaupt bedienen darf.

Also macht euch da mal keine Sorgen: Solche Macht wird am Ende schon brav in die Hände weitergereicht, die ohnehin jetzt schon den größten Einfluss haben. Und die passenden Gesetze werden dann auch noch folgen...

Anthropic kann man zu Gute halten, dass Sie erstmal fair spielen möchten da im Project Glasswing auch die Linux Foundation sitzt und es vorerst primär um Sicherheitslücken geht....

 

[Palomino]

AI vs. AI ....moment...ich kenn das Spiel....

Das kenne ich seit 40 Jahren, nannte sich damals noch Spy vs Spy

 

[R4ID]

Sobald Skynet aktiv ist haben wir alle verloren

 

[randomdude87]

ki könnte heute schon den unterschied zwischen "Tod" und "tot" erklären...

😀

 

[Pontus]

Ich befürchte, die Menschheit wird es erst merken wenn es zu spät ist und dann geht die Abwärtsspirale ohne zurück los. Das selbstverständliche Gefühl von Sicherheit und Privatsphäre wird nie wieder echt sein. Da müssen weltweit Regulierungen her!

 

[Lora]

Wenn die KI erst mal sauber enumed, chained und dropped, dann war human elite nur die Beta.

 

[Der Puritaner]

Das BSI ist nun kein Paradebeispiel für ein Bundesamt, wenn man im Glashaus sitzt sollte man nicht mit Steinen schmeißen.

 

[Deeen]

AI vs. AI ....moment...ich kenn das Spiel....

Und beide laufen im selben Rechenzentrum

 

[Der Puritaner]

@Deeen Die Admins könnten sich sozusagen gegenseitig in die Suppe Spucken, wenn sie wüssten, wer nebenan Wohnt.

 

[Shogter12]

War irgendwie abzusehen. Das Problem ist nur, dass Deutschland in seiner Naivität und Überregulierung das hat nicht kommen sehen und wir haben nicht ein einziges KI Werkzeug was gut genug gegen deren wäre. Und wer weiß schon wie weit China ist. Das Video mit den Robotern / Androiden zum chinesischen Neujahrsfest war schon erschreckend beeindruckend. Aber was die hinter verschlossenen Türen tun? Wer weiß, erstmal sammeln alle billig E-Autos hier und weltweit schön fleißig Daten.

Der große Knall wird kommen, wenn am Ende alles per Knopfdruck lahmgelegt wird. Dann werden wir definitiv wieder in der Steinzeit leben.

Prinzipiell ist jeder gefährdet der ein Gerät mit dem Internet verbunden hat und ich glaube, wir wissen nicht mal genau was tatsächlich schon alles möglich ist und/oder bereits ausgespäht wird.

Düstere Zukunft für uns alle - hoffen wir mal, dass es nicht so weit kommen wird. 🫣

 

[GrooveXT]

Wir gehen in chaotische/disruptive Zeiten. Die Entwicklung von KI ist schneller, als jede Anpassung daran möglich ist.

Das sehe ich nicht so. Wir könnten uns anpassen, aber die Welt ist voller Knallköpfe die immer noch der Meinung sind, dass KI nur eine andere Bezeichnung für Siri und Alexa ist. Wie oft muss ich hier lesen das KI zu nichts zu gebrauchen ist und der ganze Hype drum rum Quatsch sei - erst neulich noch zur Mythos-News. Man muss kein Terminator Szenario an die Wand malen, aber die Leute verkennen einfach, wie gut KI heute schon ist.

Ihr müsst alle mal klar kommen und akzeptieren, dass die Entwicklung keine Blase ist und wir vor einem echten Paradigmen Wechsel stehen. KI wird unsere Gesellschaft sehr nachhaltig verändern, mehr als jedes andere Ereignis in der Menschenheitsgeschichte jemals zuvor. KI ist ein Weltwunder der Neuzeit. Im Prinzip können wir hier eine neue Zeitrechnung starten. Due Menschen und ihre Verbohrtheit sind das Problem, nicht die Geschwindigkeit der Anpassung.

 

[Deeen]

So geil ist es dann auch nicht, dass man gleich von neuer Zeitrechnung sprechen muss. Es ist Werkzeug wie jedes andere, eine mächtiges, ohne Frage, aber nur ein Werkzeug.

 

[gollum_krumen]

Möchte aber auch nicht jeder und selbst Interessen ändern sich im Laufe eines Lebens.

Eine freie Gesellschaft möchte nicht jeder? Das würde ich bezweifeln. "Frei" wohlgemerkt nicht im Sinne von FDP-Marketing, sondern von tatsächlich frei. Und dass sich Interessen ändern ist klar, du wählst ja aber auch nicht nur einmal im Leben. Also zumindest die meisten nicht.

 

[grincat64]

Sobald Skynet aktiv ist haben wir alle verloren

Skynet nannte und nennt sich ChatGPT und es ist schon alles gelaufen. Es legen sich bereits autonome Modelle mit Menschen und deren Entscheidungen an.
Jetzt kannst du die KI nur noch darum bitten das Aufgabe-Protokol zu entwickeln. Soviel mal dazu.