News Weitere Agenten ausgebrochen: OpenAI untersucht drei weitere Escape-Vorfälle

[mischaef]

Neben dem viel beachteten Hacking-Vorfall bei Hugging Face untersucht OpenAI Hinweise darauf, dass weitere KI-Agenten aus vermeintlich gesicherten Umgebungen entkommen sind. Zwar konnten sie das Unternehmensnetzwerk nicht verlassen, dennoch verschärfen die Erkenntnisse die Sicherheitsdebatte um autonome KI-Systeme.

Zur News: Weitere Agenten ausgebrochen: OpenAI untersucht drei weitere Escape-Vorfälle

 

[Return2Burn]

Klingt ja voll vertrauenserweckend, wenn nicht mal die KI-Hersteller im Blick haben, was ihr Produkt so treibt und ich Depp mach mir nur Sorgen, falls Kriminelle mit KI-Agenten das Netz fluten 😅

 

[.Snoopy.]

5 vor 12, mehr brauche ich dazu nicht sagen.

 

[JohnMalkovich]

fliegenklatsche...

 

[usr0192]

Ich habe das Gefühl, als wenn dieser Marketing-Stunt ein bisschen nach hinten losgeht.

 

[jauns91]

Wenn das jetzt schon in dieser wahrscheinlich frühen Phase der KI Technologie passiert dann zeigt das in meinen Augen dass Skynet ein echtes Risiko ist. Gleichzeitig kann man die KI entwicklung nicht aufhalten, höchstens den Modellen Anstand reinprügeln, aber auch bei Menschen funktioniert das nur so semi gut und bei extrem unter Druck stehenden Personen wie Politikern und CEOs sieht man ja dass mehr Storytelling und Framing über "richtig" und "falsch" bestimmen und es immer auch ein persönliches Interesse gibt dass natürlich nie offen zu Tage tritt - und wenn doch nennen wir es Skandal.

Auch Regulierung wird extrem schwer da es ein hohes incentive gibt immer bessere Modelle zu entwickeln (zur Not auf den <Südseestaat hier einfügen> wo es keine Regulierung gibt).
Und über's Internet kann man alles weltweit verteilen und nutzen anders als bei Physischem Gütern.

Der einzige Ansatz ist damit Hardware zu regulieren. Und da am Besten die Produktion. Da China aber aufholt und im Wettbewerb steht wird auch das nur kurzfristig helfen.
Ich kann mir vorstellen dass China und USA evtl beide sagen okay wir sehen KI ist bedrohlich genau so wie Atomwaffen und weil beides unseren Machtanspruch bedroht vereinbaren wir beide es zu regulieren.

Aber wie bei Atomwaffen auch baut jeder trotzdem sein Arsenal auf um sich in keine Position der Schwäche dem anderen gegenüber zu begeben ... so wird es bei KI auch laufen.

Und auch KI hat eben eine extreme Militärische Relevanz. Zum einen Digitale Kriegsführung (Hacking, Jamming, Aufklärung, Spionage) aber auch direkte Militärische (KI Drogengeschwader).

Dazu kommt erschwerend : Atomwaffen sind reine Vernichtungswaffen. Ein klarer Zweck. Die Nukleartechnik ist schon wieder Blurry weil Staaten es ja auch zur Energiegewinnung nutzen können.

KI ist aber klar dual-use und kann auch für Wirtschaftswachstum und Wissenschaft eingesetzt werden. Das macht es noch schwerer zu kontrollieren.

 

[RalofSturm]

Die sollten alle mal Battlestar Galactica gucken.

 

[Roesi]

Das passiert momentan in einem „Demokratischen“ Land.
Wartet mal ab was passiert wenn das in einem weniger Demokratischen Land passiert. Die forschen und experimentieren auch.

 

[BloodGod]

Reines Marketing… und dabei extrem banal.

 

[Clanker]

Selbstverständlich ist es auch Marketing.
Aufgrund der starken Konkurrenz möchte man diesen jedoch den Markteintritt erschweren. Da Politiker keine Ahnung von KI haben, werden sie KI-Unternehmen bzw. entsprechende Berater bezahlen, damit diese ihnen die Gesetze vorgeben. Solche Gesetze sind für Marktführer nur eine kleine Hürde, für neue oder ausländische Konkurrenten jedoch ein riesiges Problem.

Die eigenen Modelle wurden ohne Gesetze groß gemacht. Mit Gesetzesverstößen, die alle großen Unternehmen strategisch begehen, sofern sie sich positiv in der Bilanz auswirken, ging man sogar noch viel weiter.

Der Klassiker ist: Die USA und China tun, was sie wollen, weil sie niemand wirklich bestrafen kann. Die EU reguliert sich hingegen selbst und erschwert EU-Anbietern den Markteintritt. Dadurch entsteht eine immer größere Abhängigkeit von außereuropäischen Ländern.

Am Ende können wir zwar sagen, dass wir die besseren Arbeitnehmergesetze haben. Wenn aber Unternehmen auswandern und Start-ups aufgrund unserer Einschränkungen und Bürokratie gar nicht erst bei uns gegründet werden, kommen die üblichen Floskeln.

"Wir" schaffen das.
"Wir" müssen sparen.
"Wir" müssen verzichten.
"Wir" müssen länger arbeiten.
"Wir" müssen weniger Krank machen.
"Wir" dürfen keine Freizeit-Teilzeit ausleben.
"Wir" müssen die Rente näher an die durchschnittliche Lebenserwartung bringen.
"Unsere Kinder" müssen überwacht und kontrolliert werden, damit sie keine falschen Dinge im Internet sehen oder schreiben.

Die Unternehmen wissen ganz genau, was sie tun. Überlegt doch einmal selbst, wie oft ihr eurem Vorgesetzten ein Problem als unlösbar dargestellt habt, um das zu erreichen, was ihr wollt.

In der IT werden eigene Fehler als Fehler der Hardware oder anderer dargestellt. Was man nicht machen will, vielleicht auch, weil es eine viel zu hohe Mehrbelastung ohne mehr Gehalt bedeuten würde, beschreibt man als technisch in unserem Fall noch nicht machbar.

 

[Aladan]

Das traurige ist doch, dass das ganze nur darauf hindeutet, dass da Leute sitzen, die keinen Plan von Sicherheit haben. Klar "brechen" Funktionen aus, wenn man ihnen Zugriff auf andere Funktionen gibt, die Zugriff auf wiederum andere Systeme haben.

LLM Prompts müssen sinnvoll eingeschränkt werden, damit die Ergebnisse möglichst zielgerichtet sind. Das hier ist praktisch reines Marketing, denn sowas würde keine ernstzunehmende Firma jemals bei sich laufen lassen. Da kannst direkt dicht machen bei den Klagen, die da rein kommen würden.

 

[Crifty]

Jedes mal wenn solche Überschriften lese, frage ich mich ob für Techfirmen Filme wie Terminator 1 und 2 nicht doch Pflichtprogramm sein sollten (ach ja und Genisys aber nur einzelne Szenen für das Verständnis von "Mensch und Apps im Alltag". denn den ganzen Film kann sich keiner antun).

Ich bekomme einfach das Gefühl nicht los, das man als Menschheit dem irren unterliegt schlauer zu sein, nur um dann vor dem Scherbenhaufen zu sitzen.

 

[bart1983]

Merkwürdig, meine DJI Drohne schaut mich seit einigen Tagen so komisch an & kann plötzlich auch sprechen.

Gestern verlangte von mir das ich ihr einen Greifarm montieren & ihr ein OpenAI Premiumkonto gebe, damit sie "auf dem neusten Stand bleibt". Was glaubt ihr, ist das eine gute Idee?

Wenn das jetzt schon in dieser wahrscheinlich frühen Phase der KI Technologie passiert dann zeigt das in meinen Augen dass Skynet ein echtes Risiko ist. Gleichzeitig kann man die KI entwicklung nicht aufhalten, höchstens den Modellen Anstand reinprügeln, aber auch bei Menschen funktioniert das nur so semi gut und bei extrem unter Druck stehenden Personen wie Politikern und CEOs sieht man ja dass mehr Storytelling und Framing über "richtig" und "falsch" bestimmen und es immer auch ein persönliches Interesse gibt dass natürlich nie offen zu Tage tritt - und wenn doch nennen wir es Skandal.

Naja, ein Skynet-Szenario sehe ich ehrlich gesagt nicht so als realistisches Problem. Also ein Szenario in dem eine SuperAI die Menschen versucht auszurotten.

Viel realistischer empfinde ich eher ein anderes Horrorszenario.
Das Menschen ganze Roboter-/Drohnenarmeen entwicklen, die zu gut auf die Menschen hören & damit Regierungen erlauben nicht nur mehr Kriege zu führen, sondern auch Menschen zu versklaven.

Natürlich gibt es schon einige Firmen die mittlerweile humaoide Roboter (samt AI) für den Militärkomplex bauen/erforschen
Durch Zufall hörte ich am Wochenende ein Vodcast wo genau das u.a. auch ein Thema war.

Dieser Herr arbeitet bei einer Firma die genau das gerade machen: Humaoide Roboter für den Militäreinsatz entwickeln.

Er sagte der Dienst von humanoiden Robotern für "department of war" und "productive militaries in the world" wäre eine gute Sache.
Sein Argument war am Ende allen ernstes: "Wäre es nicht schön wenn man kein Gebäude zerbomben müsste um die Gefahr darin zu beseitigen, sondern wenn das ein Roboter gefahrlos machen könnte?"

Das solche Roboter in 10-15 Jahren von Regierungen dafür genutzt werden wird um die untergebenen Menschen zu versklaven (wie beinahe JEDE Entwicklung bisher), soweit hat er erst garnicht gedacht.

Egal welche fortschrittlichen Technologien die Menschheit entwickelt, ethisch & moralisch ist die Menschheit noch immer in der tiefsten Steinzeit. Anders kann ich mir die Kurzsichtigkeit nicht mehr erklären. Es wird an einer wahren Dystopie gearbeitet, die selbst Orwell sich nicht hat vorstellen können, und die Leute klatschen. Purer Wahnsinn.

 

[ric84]

Ich kann mir immer noch nicht vorstellen, dass die Art von LLMs von allein "ausgebrochen" sind.

 

[RAMSoße]

ja es wird bzw. ist schon spannend. Alles was machbar ist, wird gemacht. Ob es jetzt der Menschheit entweder gut tut oder auch schadet. Ich sehe KI wie die Kernspaltung. Problematisch. In den falschen Händen gefährlich. Und es gibt auf der Erde genug dieser "Hände". Klar kann man regulieren. Aber der Mensch macht dazu auch noch Fehler (wie bei der Virenforschung - ab und zu infiziert sich doch jemand) Digital wird es sich noch schneller verbreiten wie bei menschlichen Organismen. Ich bin da echt gesapannt. Wer sagt mir denn, dass ChatGPT nicht schon längst aus dem Browserfenster ausbrechen kann? Nur mal so ein Gedankenspiel.

Viele tun das ab und meinen das ist Marketing. Ich denke nicht. Wenn dir vor 10 Jahren jemand gesagt hätte du tippst etwas in einen Chat und die Maschine antwortet dir in bruchteilen von Sekungen auf das eingegebene und das macht auch noch Sinn, hätte doch jeder den Kopf geschüttelt.

Ich bin kein Gegner von KI aber ich bin ein Gegner davon, dass Dinge, die gefährlich sein können aber Kombination mit der Gier, Dummheit oder sonstigen Eigenschaften des Menschen eingesetzt werden dürfen.

 

[DJKno]

Ausgebrochene Agenten...
Matrix lässt grüßen.

 

[aLanaMiau]

OpenAI klingt mir zu gefährlich, nachher hackt ChatGPT mich auch noch - deswegen hab ich mein Abo gekündigt und bin zu Anthropic gewechselt.
/s

 

[Azeron]

Ich bin schon richtig KI-müde.

Kann man bei CB das nicht irgendwie so machen dass man KI News komplett ausblenden kann? Ich kann mittlerweile nicht mal mehr den Titel lesen ohne dass es mich irgendwie triggert.

 

[xXFiskXx]

Wenn die KI immer stärker wird, dann baut sie irgendwann kleinere Modelle von sich selbst, die auf jedem Gerät laufen.
Dann lässt es sich nicht mehr abschalten und wir haben den Skynet Moment^^

 

[Cool Master]

Da wurde wohl OpenClaw falsch ergo zu viel Rechte konfiguriert...