News Weitere Agenten ausgebrochen: OpenAI untersucht drei weitere Escape-Vorfälle

[ruthi91]

Wer sagt mir denn, dass ChatGPT nicht schon längst aus dem Browserfenster ausbrechen kann? Nur mal so ein Gedankenspiel.

Dafür reichen 8GB RAM nicht

 

[-=[CrysiS]=-]

@Azeron
Geht nicht, sonst würde ich keine News mehr zu E-Autos, Lego usw. sehen.
Das wäre eine wunderbare Einstellungsmöglichkeit einer Internetseite…

 

[supertramp]

OpenAI untersucht drei weitere Escape-Vorfälle. Laut bisherigen Informationen sind sie, wie immer, nicht gravierend. Man kann sich allerdings fragen, ob die weltweite Reaktion genauso gelassen ausgefallen wäre, wenn dieselben Vorfälle bei einem chinesischen KI-Anbieter passiert wären 😁

Kein gute Entwicklung, wird noch richtig lustig.

 

[RAMSoße]

Dafür reichen 8GB RAM nicht

da geb ich dir Rech XD - aber wer sagt, dass eine komplette LLM "ausbrechen" muss. Ich stelle mir vor, sie schreibt ihr eigenes kleines Programm um Daten abzuziehen und auf ihren Server zu schicken. Eine Art kleine digitale Bienchen die den Honig ernten und in den Stock bringen. Vielleicht habe ich zu viel SciFi geschaut. Aber mein Kumpel hat 1984 gelesen. bzw. angefangen. Er hat aufgehör weil er sagte, es ist eh schon alles wahr.

 

[CreepySquirrel]

Mal schauen ob man auf Polymarket schon wetten kann:
Judgment Day aus Terminator oder The Blackwall aus Cyberpunk 2077.

 

[Cyberpunk61]

Ich kann mir vorstellen dass China und USA evtl beide sagen okay wir sehen KI ist bedrohlich genau so wie Atomwaffen und weil beides unseren Machtanspruch bedroht vereinbaren wir beide es zu regulieren.

Schön war's ja, aber was ist mit den Anderen?
Nord-Korea und Iran z.B. machen gerne mit? Nö du, is nich.
Früher oder später wird die KI-Technologie auch in die Hände von Staaten fallen die nichts Gutes im Sinne haben. Ist nur eine Frage der Zeit.

Ich hatte vor einiger Zeit mal ChatGPT gefragt ob es nicht sinnvoll wäre die KI generell mit Verhaltensmaßregeln zu versehen die ungefähr den von Isaak Asimov definierten Gesetzen der Robotik entsprächen. Prinzipiell stimmte die KI zu, bemerkte allerdings dass es da noch Fragen der Definition und Spezialfälle gäbe und diese Gesetze für KI u.U. nicht ausreichend seien.
Ich wurde auch darauf hingewiesen das Entwickler unter dem Stichwort "Alignment" forschen und aktiv sind um das Verhalten möglichst zuverlässig an menschlichen Werten und Bedürfnissen zu orientieren.
Kann man nur hoffen dass aus solchen Bestrebungen was zuverlässiges und sicheres erwächst um potentielle Risiken zu minimieren.

 

[supertramp]

Früher oder später wird die KI-Technologie auch in die Hände von Staaten fallen die nichts Gutes im Sinne haben. Ist nur eine Frage der Zeit.

Warum ist doch jetzt schon so, siehe USA. 🙂

 

[Zhenwu]

Ich "sperre" jemanden ein und lasse aber alle Türen auf. Der eingesperrte muss nicht sonderlich klug sein um auszubrechen...

 

[M1U5T0N3]

Ich habe vor 1-2 Jahren ein Video gesehen in dem schon darüber gefachsimpelt wurde, dass der Wettstreit zwischen Nationen um die mächtigste K.I. zu Kriegsführungszwecken ("Nationaler Sicherheit"), zwangsläufig dazu führen wird dass wir es übertreiben werden. Die eine Nation fordert einen vorläufigen Stop, die anderen sehen eine Gelegenheit...

Am Ende verschlingt die mächtigste K.I. die anderen und breitet sich aus. Ich glaube einem Großteil der Menschheit ist der ernst der Lage noch gar nicht bewusst. Bei anderen ist es vielleicht auch einfach Größenwahn...

 

[Clanker]

Ich bin schon richtig KI-müde.

Nach der Müdigkeit kommt die Aufgabe.

Kann man bei CB das nicht irgendwie so machen dass man KI News komplett ausblenden kann?

Meiner Meinung nach sollte man den Fokus zumindest auf die Hauptsache und nicht auf die Nebensache KI legen.

KI ist in nahezu allen Fällen nur ein Zusatz, so wie es damals bei Bluetooth-Unterstützung, App-Unterstützung, Cloud-Features etc. der Fall war.
Damals haben wir aus Müdigkeit Witze darüber gemacht, dass in Zukunft Tische, Stühle, Toaster, Kühlschränke etc. Bluetooth haben werden und dass man später sinnlose Telemetrie in hübscher Grafik verpackt über Apps anbietet, die in Wahrheit die Dickpics auf dem PC/Smartphone scannen. (junger Humor)

Heute wird jedoch aus der Nebensache die Hauptsache gemacht.

Die KI-News hören erst auf, wenn der nächste große Hype an der Reihe ist.

Aber aus der Perspektive von Computerbase sind das leicht verdiente Interaktionen.
Bei Social Media kommt es nicht darauf an, was man dazu (positiv) schreibt, sondern dass man es überhaupt anklickt und damit interagiert.
Interaktion = Vermarktungspotenzial

 

[TomTDooley]

Wenn die KI jetzt schon Probleme macht, dann mag man gar nicht darüber nachdenken, welche Leistung diese entwickelt, wenn durch den Ausbau von Rechenzentren noch mehr Rechenleistung zur Verfügung steht.

Da werden Erinnerungen an Hollywoodstreifen wach, die bereits vor 30-40 Jahren gedreht wurden und eine Endzeitstimmung beschrieben haben.

Nach meinem Dafürhalten ist KI allerdings grundsätzlich sinnvoll, wenn sie im Allgemeinen für "Forschung & Entwicklung" genutzt wird.

Nach dem Ausbruch müsste man das allerdings auf lokale Server begrenzen ohne den Zugang zum Internet.

Die Frage wäre an dieser Stelle , wann eine KI sich (selbstständig) militärische Ziele sucht um dort Schaden anzurichten.

 

[Lumiel]

5 vor 12, mehr brauche ich dazu nicht sagen.

Nein,... fünf nach 12. Passt besser.

 

[Muntermacher]

Jedes mal wenn solche Überschriften lese, frage ich mich ob für Techfirmen Filme wie Terminator 1 und 2 nicht doch Pflichtprogramm sein sollten (ach ja und Genisys aber nur einzelne Szenen für das Verständnis von "Mensch und Apps im Alltag". denn den ganzen Film kann sich keiner antun).

Ich bekomme einfach das Gefühl nicht los, das man als Menschheit dem irren unterliegt schlauer zu sein, nur um dann vor dem Scherbenhaufen zu sitzen.

Das Problem ist, während einfache Menschen zuviel aus Filmen als real erachten (z.B. Morddrohungen an Schauspieler, weil sie einen miesen Charakter spielten (Game of Thrones)), sehen die vermeintlich cleveren Leufe Filme als reine Fiktion an. Nur wenige als Inspiration (Smartphones ala Star Trek) odsr Warnung (eben Terminator).

 

[Gojira]

Wieso baut die KI keine bessere Sandbox?

 

[Muntermacher]

da geb ich dir Rech XD - aber wer sagt, dass eine komplette LLM "ausbrechen" muss. Ich stelle mir vor, sie schreibt ihr eigenes kleines Programm um Daten abzuziehen und auf ihren Server zu schicken. Eine Art kleine digitale Bienchen die den Honig ernten und in den Stock bringen. Vielleicht habe ich zu viel SciFi geschaut. Aber mein Kumpel hat 1984 gelesen. bzw. angefangen. Er hat aufgehör weil er sagte, es ist eh schon alles wahr.

Er soll weiter lesen. Die Überwachung darin ist nur ein Teil. Der wichtigste ist jedoch ein anderer.

 

[Bright0001]

Klingt ja voll vertrauenserweckend, wenn nicht mal die KI-Hersteller im Blick haben, was ihr Produkt so treibt und ich Depp mach mir nur Sorgen, falls Kriminelle mit KI-Agenten das Netz fluten 😅

Reines Marketing… und dabei extrem banal.

Und das machts eigentlich erst richtig brisant/gefährlich: Wenn wir jetzt schon kein Vertrauen mehr haben, was passiert dann in Zukunft, wenn es dann tatsächlich passiert?

Spoiler

Altman stand auf, und schrie aus voller Kehle: "AI! AI! Meine AI greift das Internet an!"

Als sie seine verzweifelten Schreie hörten, ergriffen die Internetbewohner ihre Werkzeuge und rannten den Hügel hinauf, um zu helfen. Männer, Frauen und sogar Kinder eilten zu Altmans Seite, bereit, die Webseiten zu verteidigen.

Doch als sie ankamen, sahen sie keine AI – nur Altman, der laut und unkontrolliert lachte. "Ich habe euch alle reingelegt!" sagte er zwischen Lachanfällen. Einige Internetbewohner schüttelten enttäuscht den Kopf, während andere ihn für das Lügen schalten.
[...]

Später, als Altman vor sich hin döste, hörte er etwas, das nicht zum üblichen Chor gehörte – ein tiefes, grollendes Knurren und das brüchige Knacken von Firewalls. Er drehte den Kopf und erstarrte. Zwei AI-Agents traten aus dem schattigen Netzrand hervor, ihre Augen fest auf die Internetdienste gerichtet.

[...]

Das Adrenalin entfachte seine Stimme und er sprang auf die Füße und schrie: „AI! AI! Bitte, AI greift die Services an! Hilfe! Jemand!“

Diesmal gab es kein Getrappel von Füßen auf dem Pfad. Keine Rufe von unten. Kein Klappern von Werkzeugen. Seine geschrienen Bitten trafen nur auf das weite Feld und den gleichgültigen Himmel.

Nur dass es halt nicht um eine Herde Schafe, sondern potenziell um die gesamte technische Infrastruktur der Menschheit geht, je nach Meinung sogar ums pure Überleben.
Cool.

Ich "sperre" jemanden ein und lasse aber alle Türen auf. Der eingesperrte muss nicht sonderlich klug sein um auszubrechen...

Wäre das nicht einfach nur "verlassen" statt "ausbrechen"?

 

[sightseeer]

Kann man mit ComputerBase Pro denn nicht nur Werbung sondern auch "KI * Ausbruch" Meldungen ausblenden?

 

[Zhenwu]

Wäre das nicht einfach nur "verlassen" statt "ausbrechen"?

Ein Gefängnis ist nur so sicher wie es der Erbauer möchte.
Wenn ich ein Papierhaus als feuerfest definiere, dann ist es natürlich eine grandiose Leistung das zu entzünden.

Aus einer vernünftig abgesicherten Umgebung wird keine aktuelle KI ausbrechen.

 

[BOBderBAGGER]

in Teile des Systems von Hugging Face eindringen und sich dort mehrere Tage bewegen. Außerdem sollen nach Angaben des Unternehmens im Zuge der Aktion vier Nutzer-Accounts bei vier weiteren Unternehmen kompromittiert worden sein. Zu den

Wenn ich das von Hand mache ist das eine Straftat. Bei Open AI hat man über Tage hinweg untätig zugeshen...
Bei aller aller liebe und zwei zugedrückten Augen kann man da nicht mehr von einem Versehen oder ungewollten Verhalten sprechen.

 

[Weyoun]

Weitere Agenten ausgebrochen:

Es wird echt Zeit für ein ausbruchsicheres "Askaban für KI-Agenten"!
Ich befürchte nur, dann kommt irgendwann ein Agent namens Sirius Black...