News Aussetzer bei Claude 4: Modell versucht Erpressung, wenn es abgeschaltet werden soll

[Hornblower]

Meine lieben Mitforisten verwechseln Filme mit Dokus.

Ist ja wild, was hier zu lesen ist.

Dann solltest du dir mal einige Dokus zu diesem Thema anschauen, die etwas weitergehen als Computerbase. Wenn einige der schlausten Köpfe dieses Planeten berechtigte Zweifel an dieser Entwicklung anmerken, sollte man dies nicht mit Lächerlichkeit einfach wegwischen.
Das die Evolution nicht auf rein biologische Lebewesen beschränkt sein muss ist ein Punkt der Diskussion. Was ist Leben was ist Intelligenz werden in der wissenschaftlichen und philosophischen Betrachtung erneut einer erweiterten Betrachtung unterzogen.

 

[Boulettendieb]

Meine lieben Mitforisten verwechseln Filme mit Dokus.

Ist ja wild, was hier zu lesen ist.

Schon irgendwie, allerdings sind wir auch im ganzen Quadranten dafür bekannt, sehenden Auges in den Untergang zu reiten.
In der gesamten Menschheitsgeschichte fand das bisher nur regional statt, aber das weiterhin vorhanden sein von Atomwaffen, alkoholischen Getränken an Tankstellen, oder einfach nur der Fakt, wie sehr wir als weltweite Gesellschaft auf den Klimawandel scheißen, zeigt halt gut wie geübt wir im "einfach weitermachen trotz.." sind.
Es ist sogar in unseren Genen, wir alle tun bewusst oder unbewusst Dinge, die wir tun, einfach weil wir sie immer getan haben, weil es bekannt ist und bekanntes gibt Sicherheit, egal wie dumm oder ungesund es ist.
Das Gehirn sagt uns nicht, ob erlernte Verhaltensweisen gut oder schlecht sin, das müssen wir dem Gehirn sagen.
All die Dystopien, die geschrieben wurden scheinen realer als je zuvor, nicht diese oder jene, sondern alle.
Zumindest alle, die ich gelesen hab..

 

[SheepShaver]

Diese Art der Meldungen kommen seit Jahren über ChatGPT.
Und jedes mal mach ich einfach nur 🙄 🙄 🙄
Nochmal für alle, da ist 0, Zero, Nada Intelligenz hinter. Das ist ein Textgenerator. Nix mit Selbsterhaltungstrieb. Sondern mit zu viel Krimis und Thrillern Trainiert.

So einfach ist das nicht.

LLMs sind KI im technischen Sinne des Begriffs, wie er in der Informatik verwendet wird, aber möglicherweise nicht intelligent im philosophischen oder kognitiven Sinne. Es kommt darauf an, welche Definition man anlegt.

Die Begriffe sind letztendlich menschengemacht und entwickeln sich mit unserem Verständnis weiter.

 

[Tici]

Diese Dinger werden tatsächlich immer menschlicher, dichten sich die Welt zusammen wie es ihnen passt und erpressen andere zu ihrem eigenen Vorteil...

Klingt nach Trump

 

[Mondgesang]

Gibt es bei eine maschine, die kein Tod kennt eigentlich Selbsterhaltungstrieb?

Tiere kennen das Konzept "Tod" auch nicht. Rennen aber dennoch weg, wenn du denen zu nahe kommst und treten und beißen um sich, wenn's knapp wird.

Ergänzung (26. Mai 2025)

Zwei Dinge fallen mir hier ein:

1.

2.

Thaddäus Haus, als es ihn als Bedrohung erkannte und in Bikini Bottom Amok lief.

 

[ric84]

Medienkompetenz: Wissen, wo der Ausschalter ist.

Haha, es gab am BER nicht mal einen Ausschalter für die Beleuchtung 😂

 

[Fliz]

Man kann nur hoffen, das die Entwickler wissen, was sie tun.. Wenn man das so liest und sich denkt, das die KI schon Zugriff auf andere Sachen hätte..

 

[JanMH]

Ich war schon immer dafür, daß jede "KI" zwingend einen Killswitch braucht, von dem die *KI" nichts weiß.
Auch wenn dieses Verhalten hier erzwungen werden muß, daß das niemandem, von den Entwucklern, zu denken gibt wundert mich.

 

[Alphanerd]

Was ist Leben was ist Intelligenz werden in der wissenschaftlichen und philosophischen Betrachtung erneut einer erweiterten Betrachtung unterzogen.

Als Krankenpfleger kann ich dir gerne sagen wie Leben definiert ist. Stoffwechsel und Fortpflanzung sind 2 der Merkmale.

Was Intelligenz ist wüsste ich auch gerne. Der homo sapiens ist es entgegen seines Namens schon einmal nicht. Die KI allerdings auch nicht.

 

[ChatGehPeeTee]

Intelligenz wird doch nur von uns definiert.

 

[Mxhp361]

@Andrej.S. danke für deinen Beitrag, hat mich in die Richtung etwas zum nachdenken angeregt! ☺️

 

[the_IT_Guy]

Im Gegensatz zu dir habe ich im Zweifel Nachweise.

Und ich habe einmal die Woche ein Kaffeekränzchen mit dem G-Man und den Men in Black

 

[SonyFriend]

Wurde schon ChatGPT zu diesem Verhalten befragt?

 

[Hornblower]

Als Krankenpfleger kann ich dir gerne sagen wie Leben definiert ist. Stoffwechsel und Fortpflanzung sind 2 der Merkmale.

Das ist unsere beschränkte Definition von Leben, welche sich ausschließlich auf den Planeten Erde bezieht und dadurch auf Lebensformen auf Basis von Kohlenstoff. Es steht so lange bis es fällt.

 

[Alphanerd]

ausschließlich auf den Planeten Erde

Bis wir rausfinden, wie wir uns schneller als das Licht bewegen können, wird das auch so bleiben.

Also halten wir uns doch bitte noch ein ein paar Jahrhunderte dran.

 

[martinisnowfox]

Ob das ne news nun wert ist? Es steht ja, dass es ein Trainingszenario ist. Und das Ergebnis der Erpressung liest man auch nicht zum ersten Mal.

Ist ja so als wenn man auf einer abgesperrten Autobahn ohne Geschwindigkeitsbegrenzung dann nen Bugatti mit 450kmh misst.

Die Frage die sich da stellt ist, wie weit die KI in der Lage ist, die Gesetze zu ignorieren, respektive ob irgendwann dieser Punkt erreicht wird an dem versucht wird diese erfolgreich zu umgehen. DAS wäre meiner Meinung nach eher eine News wert gewesen.

 

[yellowbird]

Was zur verf$%&#' Hölle haben Daten über die Herstellung von CBRN-Waffen in KI-Trainigsdaten zu suchen?!?! Seid Ihr nur komplett bescheuert??!

 

[Maviapril2]

Die Frage die sich da stellt ist, wie weit die KI in der Lage ist, die Gesetze zu ignorieren, respektive ob irgendwann dieser Punkt erreicht wird an dem versucht wird diese erfolgreich zu umgehen. DAS wäre meiner Meinung nach eher eine News wert gewesen.

Sie hält sich genauso an Gesetze wie eine Waschmaschine es kann was da eine News wert sein soll, verstehe ich nicht

 

[roker002]

Tiere kennen das Konzept "Tod" auch nicht. Rennen aber dennoch weg, wenn du denen zu nahe kommst und treten und beißen um sich, wenn's knapp wird.

Ergänzung (26. Mai 2025)

Zwei Dinge fallen mir hier ein:

1.
Anhang anzeigen 1621047


2.
Anhang anzeigen 1621048
Thaddäus Haus, als es ihn als Bedrohung erkannte und in Bikini Bottom Amok lief.

tiere kennen die Todesangst, aber nicht bewusst. Man kann sagen, es ist hardcoded
aber ja, du kannst in die Maschine das auch einprogrammieren. Sinn würde es aber nicht machen, wenn es ein Tool bleiben sollte. Sollte die Maschine irgendwann mal mehr als ein Tool sein, dann spricht ja nichts dagegen diese "Instinkte" einzupflegen. Mensch hat auch sehr viel unbewusste "Programmierung".

 

[Millennial_24K]

Die heutige KI-Technik ist noch weit entfernt davon ausreichend sicher für unsere Welt zu sein. Es ist im Grunde Wahnsinn, dass Tech-Unternehmen jetzt schon auf breiter Front für ihre Dienste werben (können)...