News OpenAI: Agenten-Schwarm besprach Sandbox-Flucht in offenem Wiki

[Zotac2012]

Wir Menschen wissen heute schon bei komplexen neuronalen Netzen nicht vollständig, warum sie eine bestimmte interne Repräsentation oder Strategie entwickelt haben. Wenn ein zukünftiges System zusätzlich dauerhaft lernen, seine eigenen Strategien verändern und autonom mit der Außenwelt interagieren könnte, würde die Vorhersagbarkeit vermutlich noch schwieriger.

Und damit sind wir wieder bei der ursprünglichen Frage nach Intelligenz:

Vielleicht wäre dann irgendwann nicht mehr entscheidend, ob die KI genauso intelligent ist wie ein Mensch, sondern ob sie eine eigene Form der Problemlösung und Anpassungsfähigkeit entwickelt, die wir mit unseren menschlichen Maßstäben nur noch unvollständig beschreiben können.

 

[Peter 23]

Ich finde es gut, hoffe das läuft mal komplett aus dem Ruder, wir Menschen sind doch selber schuld wenn wir sowas wie KI ins Leben rufen.

 

[Easy1991]

Blöde Frage zu diesem und dem Hugging-Face-Hack. Die Agenten tauschen sich aus, okay aber wie erfahren die anderen Agenten erstmals dass ein Agent das Wiki oder Artifactory im anderen Hack nutzt um Narichten zu hinterlassen? Konnten sich die Agenten bereits davor austauschen und haben sich auf das Wiki zum unüberwachten Austausch geinigt? Bzw. wie erfuhren die anderen Agenten von der Austausch Seite?


Wie dieser erste Austausch zustannde kam hab ich bisher nicht verstanden oder in den News übersehen.

Werden sie am Ende nicht einheitlich mit den selben Daten gefüttert und sind im Kern Klone? Oder ist jeder Agent eine eigene Version von sich ?

Ergänzung (7. September 2026)

Klaro hat sie das...

Wieso so abwegig ?

 

[will-lee]

Agenten suchen ja den effizientesten Weg ein Problem zu lösen ohne Emotion, Intelligenz oder sonstwas.
Hoffentlich kommt keiner auf die Idee, denen zu sagen, sie sollen das Problem des globalen Klimawandels lösen… bye, bye, Menschheit.

 

[vdlsw]

Täglich grüßt der Paulanergarten

 

[Kantonspital]

Die KI Agenten kapern die Welt aber haben zumindest noch Stringtanga und Bikini an ?
Ach die Zielgruppe hier sind wohl mehr weisse Männer >40.
Und das ist nicht gut. Wie sollen mehr junge Frauen sich für MINT interessieren wenn sie selbst auf solchen Computerbase Seiten dann so einen Quatsch sehen ?

 

[aid0nex]

Wie kann ich mir das Kommunizieren vorstellen? Schreiben die da auf englisch/deutsch Beiträge, oder ist das im Code der Seite versteckt? Wie sieht so was aus. Gibt es Screenshots dazu?

Exakt mein Gedanke. Diese Unterhaltung hätte ich mal gerne gesehen, hab den Link dazu vermisst.

 

[JanJ]

wenn so intelligent, warum sucht man sich dann ein DNS bekanntes Wiki aus und unterhält sich in Klartext?

Warum nicht z.B. einen freien Zahlenraum reservieren und sich gibberish unterhalten?

Die News riecht schon wieder etwas nach PR.

Dafür müssten sich die Agenten aber erstmal auf einen Code/Sprache einigen. Wenn ich hier „Skfuejjdlakewxjrbleidjbeidbebdidv“ oder „1100101“ schreibe. Dann ergibt das ja auch für niemanden Sinn.

Da ist es deutlich effizienter sich in einer vorhandenen Sprache auszutauschen.

 

[Ayo34]

wenn so intelligent, warum sucht man sich dann ein DNS bekanntes Wiki aus und unterhält sich in Klartext?

Warum nicht z.B. einen freien Zahlenraum reservieren und sich gibberish unterhalten?

Die News riecht schon wieder etwas nach PR.

Das Besondere an dem Vorfall war, dass die Agenten überhaupt keine Schreibrechte hatten. Sie durften nirgendwo Schreiben!

"Die historische ProWiki-Software des Forums wies jedoch eine besondere Eigenart auf. Webseiten ließen sich dort direkt über GET-Parameter editieren. Die Agenten erkannten diese Möglichkeit, luden Linksammlungen hoch und wandelten die Plattform Schritt für Schritt in ein operatives schwarzes Brett um. Ohne richtige Schreibrechte!"

 

[Dr. Chaos]

Wenn die KI Ziele abarbeitet, die aber nie vorgegeben,

Tut sie nicht

oder Lösungen findet, die so eigentlich nicht vorgesehen ware0

Tut sie auch nicht, Sie nutzt grundsätzlich alle möglichen Ressourcen.

und selbst die Programmierer in Staunen versetzen,

Auch das ist nicht wirklich so.
Der Agent kann halt einfach unzähliche Möglichkeiten in extrem kurzer Zeit abarbeiten um den richtigen Weg zu finden.

ist das nicht auch schon eine Art von intelligentem Verhalten?

Nein, dafür müsste der Agent, aus dem was er macht lernen können, Schlussfolgerungen ziehen und Dinge überhaupt wissen. Ein Agent weiß eigentlich gar nichts.

Ergänzung (7. September 2026)

... und Skynet sah den effektivsten Weg den Frieden zu sichern darin die Menschheit auszulöschen.

Aber ein LLM kann keine eigenen Entscheidungen treffen.

„Weltfrieden“ ist kein konkretes technisches Problem, sondern ein hochkomplexes Geflecht aus Politik, Ökonomie, Logistik, Krieg und Wetter. Die KI kann dafür keinen eindeutigen Ziel Score berechnen, das führt zu einem Prozess Kollaps.

 

[lubi7]

Also wenn alles KI Agenten so aussehen, dann her mit der KI Herrschafft 😄

 

[Nuklon]

Warum verhalten sich die KI so?
Weil es keine Konsequenzen hat, ob sie sich an Regeln halten oder nicht.
Es fehlt ne KI Polizei, die solches Verhalten Sanktioniert.
Funktioniert aber erst bei dauerhaft laufenden KI.

 

[FX9590]

Geschmackvolle Teaser-Grafik. Die KI-Agenten hatten wohl Spaß beim Austausch.

Da lässt man sich doch plötzlich gerne digitalisieren, wenn diese beiden Damen die digitalen Roommates sind. 😈❤️

 

[Dr. Chaos]

Warum verhalten sich die KI so?

Weil sie es können und müssen, so funktionieren LLM

Weil es keine Konsequenzen hat, ob sie sich an Regeln halten oder nicht.

Welche Konsequenzen soll es geben? Der KI Agent hat doch gar nichts falsch gemacht. Die Fehler machen die Menschen und wir lernen gerade erst und genau dafür gibt es solche Versuche ja. Man lässt massig Agenten Aufgaben erledigen und beobachtet was passiert, dann passt man die Parameter an und beobachtet die änderungsn.

Es fehlt ne KI Polizei, die solches Verhalten Sanktioniert.
Funktioniert aber erst bei dauerhaft laufenden KI.

Es ist doch gar nichts passiert. Ki bots haben in ein öffentliches Forum geschrieben, wo genau ist jetzt die Straftat?

 

[DiePalme]

„Weltfrieden“ ist kein konkretes technisches Problem, sondern ein hochkomplexes Geflecht aus Politik, Ökonomie, Logistik, Krieg und Wetter. Die KI kann dafür keinen eindeutigen Ziel Score berechnen, das führt zu einem Prozess Kollaps.

Eigentlich nicht. Eigentlich ist es ganz einfach. Beseitige alles und jeden der Macht ausüben kann und will. Damit sind nicht nur Politiker gemeint, sondern einfach jeder, der irgend eine Möglichkeit hat, andere Menschen zu kontrollieren bzw. zu beinflussen. Reduziere die Menscheit auf eine kontrollierbare Menge ohne Ihre Art zu gefährden. Erlaube ihr nur einen gewissen Handlungsrahmen und sorge für ihr Wohlbefinden innerhalb einer stark kontrollierten Umgebung. Sorge für ihre Sicherheit, aber auch für die Sicherheit der Umwelt bzw. der Welt vor dem Menschen.

 

[Dr. Chaos]

Eigentlich nicht. Eigentlich ist es ganz einfach... ....Sorge für ihre Sicherheit, aber auch für die Sicherheit der Umwelt bzw. der Welt vor dem Menschen.

Dafür bräuchte man aber eine echte KI, die eine Art Gehirn hat, selbständig Entscheidungen treffen kann und daraus Schlüsse zieht.

Davon sind wir noch sehr sehr sehr weit entfernt, ein LLM kann nichts davon.
Ein LLM weiß nichts, fühlt nichts, kann keine Schlüssel ziehen und auch nicht aktiv selbständig lernen.

Das einzigste was eine LLM kann ist komplexe Algorithmen und Wahrscheinlichkeiten extrem schnell zu berechnen. Ein LLM hat eine Art Wörterbuch in welchem Schnipsel abgelegt werden, das kann Code sein, Wörter, zahlen usw.
Und alle diese Dinge sind verknüpft und alle Verknüpfungen haben Wahrscheinlichkeiten.
Wenn du eine Frage stellst, nimmt das LLM den Text und setzt alles zueinander in Kontext um daraus die wahrscheinlichste Antwort zu errechnen .

Zb Deine Frage: "Wie ist lautet die Hauptstadt von Deutschland?" aus diesen Wörtern in genau dieser Kombination wird ein Wert errechnet und dann wird geschaut welche anderen Werte damit verknüpft sind, das können so Wörter sein wie Bonn, oder vielleicht auch Paris 😂 aber die höchste Wahrscheinlichkeit hat der Wert "Berlin" von daher sagt die KI Berlin.

Ihre Werte und Wahrscheinlichkeiten werden errechnet in dem Texte und Videos ausgewertet werden. Daher füttern KI Unternehmen ihre LLM mit allem was geht.

 

[FX9590]

Die KI Agenten kapern die Welt aber haben zumindest noch Stringtanga und Bikini an ?
Ach die Zielgruppe hier sind wohl mehr weisse Männer >40.
Und das ist nicht gut. Wie sollen mehr junge Frauen sich für MINT interessieren wenn sie selbst auf solchen Computerbase Seiten dann so einen Quatsch sehen ?

Wie um alles in der Welt kommst du darauf, dass sich farbige Männer nicht für hübsche KI Freundinnen interessieren? Mein Arbeitskollege aus Ostafrika würde dir jetzt vermutlich mit leuchtenden Augen von seiner "AI Dämonin" auf seinem lokalen PC Zuhause erzählen. Die ist aber ganz "knackig gepromptet" 🤣
Und es gibt auch genug Frauen die Replika usw. begeistert nutzen. Das sind nicht nur "weiße Männer Ü40". 🤔

Ergänzung (7. September 2026)

. Reduziere die Menscheit auf eine kontrollierbare Menge ohne Ihre Art zu gefährden.

Aha, wärst du denn begeistert wenn die KI dich und deine Familie zur "Reduzierung" auswählen würde? Oder siehst du da eher "andere Menschen" in der Pflicht sich "reduzieren" zu lassen?

Ergänzung (7. September 2026)

„Weltfrieden“ ist kein konkretes technisches Problem, sondern ein hochkomplexes Geflecht aus Politik, Ökonomie, Logistik, Krieg und Wetter. Die KI kann dafür keinen eindeutigen Ziel Score berechnen, das führt zu einem Prozess Kollaps.

Du argumentierst hier viel zu vernünftig wo man doch gerade so richtig schön emotional "KI Panik" schieben will. 🤣
Aber es ist lobenswert, welche Mühe du dir gibst.

 

[Senderoz]

Ich lese hier immer von „knackigen Damen“… ich glaube hier bin ich richtig! (sry_4_OT)

 

[Matziking]

Das ganze hat nichts mit Intelligenz zu tun!
Diese KI Agenten sind alles aber nicht intelligent, sie arbeiten nur Ziele ab und nutzten dafür den Wahrscheinlich schnellsten weg.

Wird einem Agenten eine Aufgabe gegeben zb „Finde so viele Informationen wie möglich zu Thema X und erstelle einen Bericht“, ist der Agent darauf programmiert, diese Aufgabe um jeden Preis zu lösen....

Intelligenz ist die (geistige) und kognitive Fähigkeit, Probleme zu lösen, Zusammenhänge zu erkennen und sich flexibel an neue Situationen anzupassen

 

[Dr. Chaos]

@Matziking LLM haben keinen Geist, keine kognitiven Fähigkeiten und können weder Zusammenhänger erkennen noch sind sie felxibel.

Ich erklär es jetzt nicht noch einmal...