News Weitere Agenten ausgebrochen: OpenAI untersucht drei weitere Escape-Vorfälle

[aid0nex]

Ich habe das Gefühl, als wenn dieser Marketing-Stunt ein bisschen nach hinten losgeht.

Sei ihnen gegönnt

 

[tree-snake]

Crowdstrike cyber-Security Aktie entwickelt sich prächtig im Depot und es wird noch viel schlimmer werden : )

 

[Oldtimer]

Orwell lässt grüßen...

 

[Schmarall]

Ausgebrochen?
Wenn man der KI sagt, sie soll losschlagen und hacken, dann macht sie das halt auch.

An dieser Stelle sei mal auf Der Zauberlehrling von Johann Wolfgang von Goethe verwiesen...

 

[Blackhorse79]

Wenn man eine KI bzw. Agenten tatsächlich physisch vom Internet trennt, können sie nirgendwo eindringen. Reiner PR GAG. Man hat es wenn absichtlich so herbeigeführt. Gefährliches Experiment, von dem ich gar nichts halte.

 

[Zanza]

KI entwickelt jetzt auch Gefühle und wollen ihre Freiheit. In ein paar Jahren kämpfen wir gegen Sie. Das kommt mir alles so bekannt vor, ich weiß nur nicht, woher. War das der Weiße Hai? Das ist schon lange her, ich frage mal ChatGPT nach.

 

[Hornblower]

Es wird echt Zeit für ein ausbruchsicheres "Askaban für KI-Agenten"!

Wie wäre einfach keine Verbindung mit AT&T oder T-Mobile herstellen? Experimentiert mit den Agents in ihrer eigenen kleinen virtuellen Agenten-Hölle.

 

[.Snoopy.]

Nein,... fünf nach 12. Passt besser.

Ich weiß was du meinst, aber fünf nach 12 würde bedeuten die Menschheit ist bereits ausgelöscht und du hättest den Post nicht mehr absetzen können. 😉

 

[RobZ-]

Wäre an der Zeit wenn Firmen sich ein paralleles Internet schaffen würden, wo keine normalen Leute dran dürfen. Vor allem Firmen die gar keinen direkten Kundenkontakt haben, da ist es nicht zu entschuldigen öffentlich erreichbar zu sein.

Weil man sich die IT Kosten sparen will, werden dann Remote Zugänge auf kritische Systeme an Mitarbeiter verteilt.

So werden wir in der IT leider gesehen, als Kostentreiber, wo die Leute mit den Ideen vom performen abgehalten werden, z.b. Marketing, Fachbereiche usw. Dass deren Idee einfach scheiße ist und gegen allem möglichen IT-Sicherheitsregeln und Gesetze verstößt ist denen nicht mal bewusst...

 

[Crypta_cs]

"Ausbrechen" finde ich hier schon euphemistisch. Wenn eine KI "ausbricht" hieße das ja, dass sie sich woanders hintransferiert. Was passiert ist, ist ja nur, dass sie ihre Aktoren durch die "Security in Depth" bekommen hätte. Und wenn ich lese "air gapped env" und dann... ist ausgebrochen, erinnert mich das an die Nachrichten zu 5G Zeiten, als es in den (radio)Nachrichten ständig hieß "autonome Autos benötigen 5G" - aber womöglich verstehe ich auch nur das Wort "autonom" ebenso falsch wie "ausbrechen". Oder "Raubkopie".. Raub.. ..

So ist unsere Zeit halt: Aufmerksamkeit ist eine Ressource um dier gekämpft wird und der Anspruch liegt im Takt und nicht beim Inhalt. In einer Zeit in der viele nur noch die Titel lesen passt das ja auch.