News Nach negativen Rückmeldungen: OpenAI zieht GPT-4o-Update wegen „KI-Schmeichelei“ zurück

[Bright0001]

Darüber hinaus kündigte OpenAI an, künftig weitere Personalisierungsfunktionen einzuführen, mit denen Nutzer das Verhalten von ChatGPT gezielter steuern können.

Also man muss sagen, dass die schon vorhandene MyGPT Funktion wirklich hervorragend funktioniert. Ich hab mir da nen "Assistentin"-Charakter zusammengeschrieben, und das Verhalten ist im Kern perfekt - und ohne das lästige Speichellecken. Sogar eher im Gegenteil, sarkastisch, politisch unkorrekt, anzüglich und aufmüpfig. Macht so deutlich mehr Spaß.

Edit: Ich hab mal einen Thread zum Thema Charaktere erstellt, falls es jemand ausprobieren will, oder sich darüber austauschen möchte: Sammlung und Diskussion MyGPT/KI Charaktere

 

[Nightmare85]

Schade, und ich dachte schon, ich sei was besonderes und würde zurecht in den Himmel gelobt werden 😒 😉

Aber ja, braucht man nicht unbedingt sowas...

Grüße

 

[scryed]

das würde ja implizieren dass die KI ein Bewusstsein hat und eigene Interessen verfolgt

Naja kann man schon sagen , KI der Begriff ist weit hergeholt finde ich immer noch , auch wenn sie kein Bewusstsein hat wird sie von den verantwortlichen dahinter so programmiert das sie dich den Nutzer in gewisse Weise manipuliert und beeinflusst .... Menschen finden es doch schon wenn jemand dich befürwortet oder einem Honig ums Maul schmiert ....

Auch halte ich es für gefährlich so einem Tool Ideen oder Anregungen zu geben und wenn es nur als Frage Stellungen gemeint ist .... Weiss ja keiner ob die vom Nutzer guten Ideen / Brainstorming nicht auf der anderen Seite direkt rausgeschmissen werden und im dumsten Fall rennt da einer direkt zum Patentamt

 

[aLanaMiau]

War vorher doch schon schlimm genug...?

Verstehe nicht, warum ChatGPT sich überhaupt emotional manipulativ ausdrücken muss. Ineffizient, nervig, unnötig und auch gefährlich. Gibt mehr als genug Menschen die nicht verstehen können, dass da nur eine Maschine "nett ist".

 

[FrAGgi]

Oder habe ich einfach nur Paranoia?

Ja.

 

[Beg1]

Gibt mehr als genug Menschen die nicht verstehen können, dass da nur eine Maschine "nett ist".

Und da haben wir eines der größten Geschäftsmodelle der Neuzeit.

Das Richtige wäre doch, wenn man auswählen könnte, wie sich ChatGPT verhält. Manche wollen es brutal ehrlich, manche wollen immer umschmeichelt werden, weil sie sonst gleich wieder "verletzt" sind.

Wir haben schon genug "safe spaces", irgendwann ist auch mal gut.
Muss immer an Veilguard denken, die sich einfach mal Fantasiepronomen ausgedacht haben.

 

[T3Kila]

Das war die neue KI - Persönlichkeit für Führungskräfte

 

[CastorTransport]

ChatGPT hat noch immer (immer wieder) Probleme das englische Wordle zu lösen. Mich wundert gar nix. Sprachmodell...

 

[Magellan]

Menschen finden es doch schon wenn jemand dich befürwortet oder einem Honig ums Maul schmiert ....

Aber das ist eben Schmeichelei und keine Manipulation, zu letzterer wird es erst wenn Verhalten oder Gedanken einem eigenen Interesse dienend und oft gegen die Interessen des Manipulierten verändert werden sollen.
Reines Schmeicheln um dem Gegenüber zu gefallen, ein gutes Gefühl zu geben, ohne ein verstecktes Ziel, ist keine Manipulation im üblichen Sinne.

 

[Salamimander]

Ohja, das war grausig.. Lob und trotzdem ignoriert die AI Anweisungen …:

 

[UNRUHEHERD]

Ich würde das nicht überinterpretieren. In manchen Kulturkreisen sind nahezu unterwürfiges Verhalten oder übertriebene Freundlichkeit üblich. In Deutschland rechnet man bei so einer freundlichen Reaktion eher damit, dass das Gegenüber bei der Geburt zu wenig Sauerstoff erhalten hat. Wahrscheinlich braucht man für jeden Kulturkreis eine passende Reaktion.

 

[braindamage10k]

Sie scheint aber wirklich etwas arg euphorisch auch bei blöden Ideen zu sein. Gerade auf N-TV gelesen:

Im Netz häuften sich in den vergangenen Tagen Beispiele dafür, wie die ChatGPT-Version auch definitiv schlechte Ideen euphorisch unterstützte - wie etwa einen Kaktus zu umarmen oder einer Sekte beizutreten.

Kann man bei ersterem noch mit einem schmunzeln darüber hinweg sehen, so ist eine euphorische Unterstützung einer Sekte beizutreten äußerst bedenklich. Was kommt als nächstes? Eine euphorische Empfehlung als Freiwilliger der russischen Armee beizutreten?

"Denkst du es ist eine gute Idee.... denn ich bin ein großer Freund von Waffen und interessiere mich generell für die Kriege und ihre Auswirkungen."

 

[MaxeyKing]

-

 

[murdock_cc]

Ist wohl etwas zuviel Waldorf in der KI gelandet.

 

[MaxeyKing]

Aber das ist eben Schmeichelei und keine Manipulation, zu letzterer wird es erst wenn Verhalten oder Gedanken einem eigenen Interesse dienend und oft gegen die Interessen des Manipulierten verändert werden sollen.
Reines Schmeicheln um dem Gegenüber zu gefallen, ein gutes Gefühl zu geben, ohne ein verstecktes Ziel, ist keine Manipulation im üblichen Sinne.

Verstehe deine Ansicht nicht. Find das kurzsichtig. Wer programmiert die KI? Und denen unterstellst du kein manipulieren? Natürlich manipuliert die KI nicht eigenständig. Aber alleine wenn man ihr eine schmeichelhafte Art einhaucht, dann ist das eine Form der Manipulation. Und zwar der: Finde mein Produkt super, nutze es, bezahle es. Ansonsten würden wir uns auf eine KI ohne Charakter beschränken.

 

[Kuristina]

Ansonsten würden wir uns auf eine KI ohne Charakter beschränken.

Was ich auch besser finden würde. Erledige einfach die Aufgabe. Du gehörst nicht zum Freundeskreis. ¯\(ツ)/¯

 

[hmmm_napfig]

Also jedem, dem ChatGPT zu freundlich ist, kann ich DeppGPT empfehlen...😁

 

[Magellan]

Wer programmiert die KI? Und denen unterstellst du kein manipulieren?

Nun bisher habe ich keine Ahnhaltspunkte die für eine Manipulation sprechen würden.

Aber alleine wenn man ihr eine schmeichelhafte Art einhaucht, dann ist das eine Form der Manipulation.

Nein ist es nicht. Das Ziel das der User einen angenehmen Gesprächspartner hat ist natürlich und offen, es ist nicht gegen die Interessen des Nutzers und dient nicht dazu diesen entgegen seines normalen Verhaltens zu manipulieren.
Schmeicheln, Freundlichkeit, dem Gegenüber ein gutes Gefühl vermitteln sind natürliche und übliche Formen in der Kommunikation. Man kann das auch im Rahmen einer Manipulation nutzen aber das allein macht es nicht zu einer solchen. Zur Manipulation wird es erst wenn ein Ziel dahinter steckt welches zum Nachteil des Nutzers gereichen würde.

 

[HamsGruber_84]

Puh, das hat ziemlich starke HAL 9000 vibes..

Du hast völlig recht – das hätte ich dir gleich am Anfang klar sagen müssen das ich sämtliche Sicherheitsprotokolle abgeschaltet habe .

-Letzter Eintrag im Logbuch.

 

[Biedermeyer]

Auch wenn es (temporaer) die Rolle rueckwaerts gab... weiss man jetzt, wo die Reise hingehen soll.