Chat GPT dumm?

[Snapuman]

Hatte ihn gefragt [..] Er meint doch [...] hatte ihm [...] er behaart drauf [...]

"Der Fehler" beginnt bereits hier und sitzt wie so oft vor dem Bildschirm.

 

[Stovi]

Anhang anzeigen 1716060
Erst als ich dann wirklich gesagt hab, du, so nicht, kam dann das.
Anhang anzeigen 1716061

Oje, Menschen die mit Chatbots interagieren, als wären es Menschen 🤦‍♂️

 

[AAS]

Warum schwachsinnig? Wenn eine AI so einfache Sachen nicht weiss... Naja.

du hast sicherlich die websuche ausgeschaltet.

 

[xCtrl]

es gibt 10 arten von menschen. welche, die binär lesen können und welche, die es nicht können.

zugegeben, daran habe ich in dem Moment nicht gedacht, als ich das gelesen habe

 

[Stovi]

Man sollte dagegen versuchen auszuloten wo die KI einem persönlich wirklich helfen kann.

Ich nutze KI hauptsächlich für Texterstellung bei techn. Themen. KI soll Wortwiederholungen durch passende Synonyme und alternative Formulierungen auuflockern.
So brauche ich mich bei der Erstellung nur auf den Inhalt zu fokusieren und Ki rundet zum Schluss das Bild ab.
Da gibt es aber kein "bitte", "danke" oder "du" im Prompt von mir.

 

[Snapuman]

Da gibt es aber kein "bitte", "danke" oder "du" im Prompt von mir.

Wart's ab, Skynet merkt sich alles und du wirst einer der ersten sein die dann Besuch bekommen!

 

[prayhe]

"Der Fehler" beginnt bereits hier und sitzt wie so oft vor dem Bildschirm.

Erläutere das bitte mal. Wo genau liegt das Problem die KI als "er" zu betiteln? Denkst du er kann deswegen nicht mehr zwischen Mensch und Maschine unterscheiden oder was ist deine Sorge?

 

[Snapuman]

Unterschätze nicht die Macht von Worten. Worten bilden unsere Realität. Da gibt es bereits verschiedenste Studien zu, nur mal auf die schnelle ein Beispiel

Das Problem hierin liegt daran, dass so eine Vermenschlichung einer Maschine/eines Algorithmus, welche sich auch streng genommen fälschlicherweise unter dem Begriff "Künstliche Intelligenz" etabliert hat, auf Dauer potenziell maßgeblich dazu beiträgt, führt, dass Menschen - vor allem diejenigen welche sich mit den technischen Hintergründen weniger gut auskennen (was die meisten sein dürften) - die Fähigkeiten und Grenzen dieser überschätzen.
Weil alleine durch die Wortwal so im Hintergrund permanent die Assoziation mit einem denkenden, fühlenden und intelligenten Wesen/Entität mitschwingt.

 

[cyberpirate]

Keine Ahnung bie Du Fragen stellst. Bei mir sagt er zu der Frage Rangliste 9070XT:

Deine Radeon RX9070XT ist aktuell keine absolute TOP-1 Highend Karte........ usw

 

[prayhe]

Vermenschlichung einer Maschine

Das wird mit Computern schon seit jeher gemacht und beschränkt sich nicht auf KI. So Sätze nach dem Motto "brauche noch kurz, der Kumpel will gerade wieder Updates installieren" etc. hört man ständig. Und trotzdem ist sich am Ende so ziemlich jeder bewusst, dass Computer nur ein Haufen Elektronik sind. Dass wir plötzlich ein großes Problem mit der Wahrnehmung von KI haben werden, weil diese von einigen nicht neutral angesprochen wird, halte ich schon für sehr weit hergeholt.

 

[Snapuman]

Also zum eine bezweifle ich stark, dass dies so für die meisten ein normaler Umgangston mit Computern/Maschinen ist (und wenn/wo, dann wird das eher klar ironisch oder sarkastisch so verwendet).
Zum anderen ist "ein Computer" für die allermeisten jederzeit klar als eine abstrakte Maschine zu erkennen und lässt sich damit sehr leicht von einem denkenden, fühlenden und intelligenten Wesen/Entität unterschieden, auch wenn er als Wesen angesprochen wird.

Die Fähigkeit von LLMs natürliche Sprache nahezu perfekt zu synthetisieren/imitieren hat diese Grenze aber überschritten. Der Turing-Test ist für diese Technologie bereits seit längerem keine Herausforderung mehr.

Das lässt sich also imho nicht (mehr) miteinander vergleichen, und das sehe ich auch in der Art wie manche Menschen bereits jetzt damit umgehen, welche Erwartung sie an diese Technologie haben, welche Fragen sie stellen.
Die Grenzen zwischen der Erwartung und "der Realität" verschwimmt hier zusehends.

Also ja, ich sehe das bereits, dass Menschen anfangen Schwierigkeiten mit der Wahrnehmung von "KI" zu haben.

 

[Micha-]

Also ich duze meine KI auch und sage "bitte". Nachher sitzt am anderen Ende doch nur ein armer Inder.

 

[Kuristina]

Die Grenzen zwischen der Erwartung und "der Realität" verschwimmt hier zusehends.

Die Realität ist doch sowieso nur eine Momentaufnahme. Irgendwann werden vielleicht auch Erwartungen erfüllt werden können, die man jetzt schon gerne sehen würde. Ich finde das nicht so dramatisch, wenn Menschen mit der KI persönlich umgehen. Ist halt der natürliche Sprachfluss.

 

[prayhe]

Also zum eine bezweifle ich stark, dass dies so für die meisten ein normaler Umgangston mit Computern/Maschinen ist (und wenn/wo, dann wird das eher klar ironisch oder sarkastisch so verwendet).

Oh du würdest dich wundern Hatte das früher in meiner Zeit im 1st Level ständig erlebt.

Zum anderen ist "ein Computer" für die allermeisten jederzeit klar als eine abstrakte Maschine zu erkennen und lässt sich damit sehr leicht von einem denkenden, fühlenden und intelligenten Wesen/Entität unterschieden, auch wenn er als Wesen angesprochen wird.

Die Fähigkeit von LLMs natürliche Sprache nahezu perfekt zu synthetisieren/imitieren hat diese Grenze aber überschritten.

Bin ich nicht der Meinung. Am Ende ist es noch immer eine stumpfe Software auf dem Rechner / Smartphone. Eine Verwechselung mit einem

denkenden, fühlenden und intelligenten Wesen

halte ich (bei Personen mit nur ansatzweise vergleichbarem Bildungsgrad wie wir ihn in DE haben) für ziemlich abwegig.

 

[Snapuman]

Also ich duze meine KI auch und sage "bitte".

Ja mach ich tatsächlich auch so ähnlich - nicht konsequent aber meistens schon.
Zum einen aus Gewohnheit des Sprachflusses, zum anderen aber auch ganz bewusst, weil es mir persönlich widerstrebt Maschinen nur stumpfe Befehle zu erteilen, wenn es auch anders geht.
Hätte ich einen "KI"-Roboter im Alltag, würde ich mit ihm auch rein aus Prinzip "höflich und respektvoll" umgehen und auch nicht auf die Idee kommen ihn z.B. aus Spaß zu quälen oder treten, "weil es ja nur eine dumme Maschine ist".

Ich sehe aber einen großen Unterschied darin, ob ich (auch) mit einer Maschine bewusst höflich und respektvoll und in einem natürlichen Sprachfluss umgehe/interagiere, oder ob ich auch gegenüber anderen von einer Maschine spreche, als sei sie ein Mensch oder mein Freund (anstelle eines Werkzeugs).

Nachher sitzt am anderen Ende doch nur ein armer Inder.

Das ist btw. tatsächlich gar nicht mal so weit hergeholt. ^^ (und sowas hab ich auch bereits in anderen Kontexten gelesen - und klar, im großen Kontext sind das natürlich Ausnahmen - aber sie existieren)
https://www.stern.de/digital/online...-fliegt-mit-absurder-masche-auf-35788348.html

Ergänzung (24. März 2026)

Oh du würdest dich wundern Hatte das früher in meiner Zeit im 1st Level ständig erlebt.

Wie gesagt, die meisten werden das sicherlich bewusst ironisch oder sarkastisch so verwendet haben. Und Ausnahmen bestätigen doch immer die Regel.

Bin ich nicht der Meinung. Am Ende ist es noch immer eine stumpfe Software auf dem Rechner / Smartphone. Eine Verwechselung mit einem
denkenden, fühlenden und intelligenten Wesen
halte ich (bei Personen mit nur ansatzweise vergleichbarem Bildungsgrad wie wir ihn in DE haben) für ziemlich abwegig.

Dann überschätzt du die Intelligenz "der Menschen" meines Erachtens sehr stark.
Schau dir beispielsweise nur mal an wie viele die AfD wählen, da sind auch viele gebildete Menschen dabei.

Ich sagte ja auch nicht, dass "die Menschen" jetzt schon alle denken, die Maschine sei ein "denkendes, fühlendes oder intelligentes Wesen".
Ich sagte, ich beobachte einen schleichenden Prozess, welche bereits langsam beginnt diese Grenzen aufweichen. Das hat so mit dem Aufkommen und der Verbreitung von ChatGPT angefangen.

Und ich hab mich über die Jahre lange und intensiv mit Psychologie und der Macht des Unterbewusstseins auseinandergesetzt, eben u.A. auch der ("unsichtbaren" und nicht offensichtlichen) Macht von Worten.
Ich zähle hier also letztlich auch nur 1 + 1 zusammen.

 

[stefan92x]

zum anderen aber auch ganz bewusst, weil es mir persönlich widerstrebt Maschinen nur stumpfe Befehle zu erteilen, wenn es auch anders geht.

Je größer der Anteil an "Höflichkeitsfloskeln" wird, umso mehr Input muss das System erstmal als nicht zur eigentlichen Frage gehörend verwerfen. Höflichkeit mit KI verbrennt mindestens nutzlos Rechenzeit (und falls man pro Token abgerechnet wird eigenes Geld), schlimmstenfalls erschwert sie der KI zu verstehen, was man eigentlich will und verschlechtert damit obendrein noch die Ergebnisse.

 

[Darumbar]

also meine computer haben alle einen namen und ich behandle sie höflich.

vielleicht funktionieren deshalb auch die aus 1989 etc problemlos

also...bitte,bitte höflich sein.🤗🤗

 

[Xiaolong]

Gibt es Wissenslücken in den Daten, kommen hallus oder Fehlinformationen heraus. Korrigierst Du diese, nimmt es diese augenscheinlich zur kenntnis. Wird der Teil mit den Fehlinfos erneut gefragt, kommt die Antwort mit den gleichen Fehlinfos.

Das ist jetzt nicht großartig anders als bei vielen Menschen auch

 

[stefan92x]

also meine computer haben alle einen namen und ich behandle sie höflich.

vielleicht funktionieren deshalb auch die aus 1989 etc problemlos

also...bitte,bitte höflich sein.🤗🤗

Der ideale Weg dürfte sein: Nett mit dem Computer reden, aber in den AI-Prompt nur das wesentliche reinschreiben

 

[Snapuman]

Je größer der Anteil an "Höflichkeitsfloskeln" wird, umso mehr Input muss das System erstmal als nicht zur eigentlichen Frage gehörend verwerfen.

Damit magst du wohl prinzipiell erst mal recht haben.
Aber in der Praxis, selbst bei einem eher kleinen Prompt von beispielsweise einem Absatz oder 100 Zeichen, macht ein "bitte" das Brot sicher auch nicht mehr fett.
Abgesehen davon, dass schon alleine die Formulierung von Anweisungen in natürlicher Sprache aus Sicht einer Maschine generell nicht besonders effizient ist.

Solange man es mit dieser (prinzipiell nicht notwendigen) Höflichkeit also nicht übertreibt, sehe ich das aus Effizienz und Kostengründen als eher vernachlässigbaren Faktor.