News Schätzungen von OpenAI: Hunderttausende GPT-Nutzer mit psychischen Problemen

[LadyAlice]

nachts um 3 noch im Minutentakt auch Nachrichten antwortet.

Und von der dann normalerweise auch neutrale bis freundliche Antworten kommen, während man bei anderen hoffen darf, dass man sie nicht mit der eigenen Notlage „nervt“ und die auch oftmals noch die schlimmsten Wortverhunzungen entziffern kann

 

[0x8100]

Mich wundert es ehrlich gesagt, das Menschen eine emotionale Bindung zu einem Chat Bot aufbauen.

https://futurism.com/artificial-intelligence/deepseek-girl-ai-companion

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

ist schon ein gruseliger gedanke, dass sich die menschen so an eine ki binden können und dieser alles erzählen - was dann durchaus auch gegen einen verwendet werden kann.

 

[Krik]

@DKK007
Jepp, diese Sorte gibt es auch noch. Ich habe das bei einer Autistin erlebt, die früher Zwangsstörungen hatte und heute "nur" noch unter Depression und ihrem Autismus leidet. Wenn die erst mal anfängt zu reden, dann hört die so schnell nicht mehr auf. Ich finde es erstaunlich, wie viel aus so einem Menschen so alles herauspurzeln kann. 😲

Sollte das Unternehmen eingreifen oder nicht?

Die Frage ist, wie zuverlässig die Erkennung funktioniert. Man kann ja gleichzeitig nicht auch Hexenjagd oder Neudeutsch auch "Swatting" auf Leute machen, die vielleicht gerade "nur" einen Rollenspielabend planen oder einer anderen harmlosen Tätigkeit nachgehen.
Ich finde das heikel und weiß auch keine gute Lösung darf..

 

[dx1]

Diesen Gedanken kann man auch weiter führen, Stichworte Massenüberwachung, Chatkontrolle. Bei auffälligem Verhalten werden Organisationen/Leute dazu geschalten. Wer entscheidet was aktuell 'Normal' ist?
Irgendwie hatten wir das alles ja schon mit beginn vom Internet. Die grosse Masse verhält sich nicht 'optimal', so kann doch keine Gesellschaft sich weiter entwickeln

Willst Du etwa sagen, dass Peter Thiels Palantir gar nicht harmlos und die Moral des Films "Minority Report" völlig undenkbar ist?

Ergänzung (27. Oktober 2025)

@DKK007
… Hexenjagd oder Neudeutsch auch "Swatting" …

Zwei völlig verschiedene Begriffe für zwei völlig verschiedene Sachverhalte. Bitte belies Dich.

 

[Krik]

@dx1
Nicht mit Scheuklappen denken. Menschen haben und werden andere Menschen teils unbewusst, teils bewusst verurteilen und ihren "Gerechtigkeit" zukommen lassen. Das kann viele Formen annehmen wie z. B. Hexenjagd oder eben Swatting.

 

[dasBaum_CH]

Die Frage ist, wie zuverlässig die Erkennung funktioniert.

Meine schlimmste Befürchtung ist, dass man an solche Technologien bald nur noch via digitale ID ran kommt.

 

[tollertyp]

Das kann viele Formen annehmen wie z. B. Hexenjagd oder eben Swatting.

Swatting ist halt keine Hexenjagd. Darum geht es.

 

[dasBaum_CH]

Willst Du etwa sagen, dass Peter Thiels Palantir

Nein absolut nicht. Ich will eher sagen das es schlussendlich nur noch Unternehmen/Konzerne gibt die ihre eigenen Interessen durchsetzen und die Gesellschaft nur als Konsument dient... halt stop, mist...

 

[DKK007]

@DKK007
Jepp, diese Sorte gibt es auch noch. Ich habe das bei einer Autistin erlebt, die früher Zwangsstörungen hatte und heute "nur" noch unter Depression und ihrem Autismus leidet. Wenn die erst mal anfängt zu reden, dann hört die so schnell nicht mehr auf. Ich finde es erstaunlich, wie viel aus so einem Menschen so alles herauspurzeln kann. 😲

Infodumping ist ein häufige Phänomen bei Menschen auf dem Spektrum.

Wobei man mittlerweile davon ausgeht, dass es ein gemeinsames ADHS-Autismus-Spektrum (AUDHD) gibt, bei dem jede Betroffene Person die Symptome halt in unterschiedlichen Ausprägungen hat.

Depression kommt bei neurodivergenten Menschen gehäuft als Komorbidität hinzu, ähnlich wie bei queeren Menschen .
Einen Erklärungsansatz liefert das Minority Stress Modell.

 

[dx1]

@dx1
Nicht mit Scheuklappen denken.

Was blende ich denn Deiner Meinung nach im Zusammenhang mit dem, was ich geschrieben habe, aus?

 

[Robo32]

Bindung an eine KI kann ich sogar unter bestimmten Umständen nachvollziehen, aber wartet bis es humanoide Roboter als "Haushilfe" gibt mit denen man (auch...) quatschen kann^^

Eines sollte immer bedacht werden, eine Unterhaltung mit der KI ist alles, nur nicht anonym und Gesetze sind recht flexibel wenn man denn wirklich will - folgerichtig wird über kurz, oder lang bei so etwas direkt die nächste Dienststelle benachrichtigt (natürlich nur weil es ja richtig ist die Leute vor sich selbst zu schützen...).

 

[lex30]

Wundert mich jetzt nicht wirklich. Da können sich die Leute mit ihren Problemen ungezwungen öffnen.
Finds auch gut, das man die KI hier anscheinend psychologisch trainieren will. Als "Erste Hilfe"-Maßnahme scheint das keine schlechte Idee zu sein. Zumal man die Leute damit hoffentlich dazu bringen kann, sich auch einem Arzt bzw. Psychologen/Psychiater zu öffnen.

 

[Krik]

@dasBaum_CH
"für"? Der Ausdruck macht für mich so keinen Sinn. meinst du "an"?

Swatting ist halt kein Hexenjagd. Darum geht es.

Das wollte ich so auch nicht behaupten. Mir ging es hier eher darum, dass man früher die Leute oft aufgrund von Unverständnis oder aufgrund von Boshaftigkeit verfolgt und tatsächlich gejagt hat. Beim Swatting sind das auch häufig zutreffende aber auch nicht immer die gleichen Gründe.

 

[Restart001]

oha, wenns in der ePA nicht stehen sollte, ChatGPT hat dann die Daten. Einfacher gehts nimmer an solche Daten zu kommen. Bin ich noch nicht drauf gekommen da ne zweite Meinung bei ChatGPT einzuholen...

 

[tollertyp]

Also ich bin skeptisch, ob ich es gut finde, dass KIs wirkich "psychologisch trainiert" werden sollen. Aber: Was halt ein richtiges Problem ist, wenn KIs suizidgefährdete Menschen noch zur Selbttötung anspornen.

 

[dasBaum_CH]

"für"? Der Ausdruck macht für mich so keinen Sinn. meinst du "an"?

Gut möglich, ich bin kein Experte in der deutschen Sprache. Ich lass mich aber gerne belehren und korrigieren.

 

[dx1]

Mir ging es hier eher darum, dass man früher die Leute oft aufgrund von Unverständnis oder aufgrund von Boshaftigkeit verfolgt und tatsächlich gejagt hat. Beim Swatting sind das auch häufig zutreffende aber auch nicht immer die gleichen Gründe.

Kannst Du diese zwei Sätze mal bitte morgenfrisch lesen und so lang und breit erläutern, wie es Dir wichtig ist, verstanden zu werden?

 

[Boimler]

daher zeigen die Zahlen eher, wie wenig sich Menschen einem AI-Bot öffnen, dass sie zu Recht Skepsis im Umgang mit einem solchen haben und dass die meisten nicht so blöd oder naiv sind, zu glauben, ein Gespräch mit einer seelenlosen AI würde langfristig helfen.

Ich würde sagen, dass die Daten nicht belastbar sind, weil hier einfach Faktoren reinspielen, die man nicht kennt, bspw ab wie vielen Anfragen überhaupt etwas als "krankhaft" eingestuft wurde oder wie man überhaupt dazu kommt, anhand von anonymen Prompts, Diagnosen zu stellen. Löblich trotzdem, dass OpenAI sich des Problems bewusst ist!

 

[tollertyp]

Ich denke das Problem ist, dass Krik den Begriff "Swatting" falsch verwendet. Nicht jeder Polizeieinsatz ist Swatting.

Und dabei beziehe ich mich auf diesen Satz:

Man kann ja gleichzeitig nicht auch Hexenjagd oder Neudeutsch auch "Swatting" auf Leute machen, die vielleicht gerade "nur" einen Rollenspielabend planen oder einer anderen harmlosen Tätigkeit nachgehen.

 

[Silencium]

imho sollten gewisse Dinge nicht ins Internet gelangen. Aber ich kann mir vorstellen, dass sich viele der KI zuwenden.