samuelclemens
Lt. Commander
- Registriert
- Nov. 2017
- Beiträge
- 1.877
Es ist ein grundlegendes Paradigma Problem der KIs die sich auf Teufel komm raus immer anbiedern und antworten müssen statt einfach zu sagen man hat keinen Plan und auf Quellen verweisen wo man sich selbst ein Bild machen kann.TorenAltair schrieb:Also wenn ich Sachfragen stelle und es kommt bestenfalls Falsches raus bis hin zu in vielen Fällen erfundener Kram, nutze ich es falsch? Dann muss wohl die "KI", also die LLMs, so unfähig sein, dass sie mir dummem Menschen nicht helfen, sie richtig zu bedienen oder die LLMs sind für Rechercheaufgaben einfach komplett unfähig.
Konkretes Beispiel von vorhin: Habe etwas zu Mattermost gefragt; eine Einstellung. Die Maschine erzählte mir vom Pferd auf dem Mond bildlich gesprochen.
Das ist aber primär ein gewolltes Verhalten durch die Hersteller und betreiber in der Konditionierung. Es soll den Kunden schlicht einfach länger am Produkt oder der Verkaufsumgebung halten.
Kann man aber teilweise umgehen mit präzisen Verhaltensanweisungen.
Ich hab zb ChatGPT angewiesen einfach fresse halten und nur brav nicken wenn bestimmte Triggerworte fallen. Oder sich kurz und bündig zu fassen.
Was man auch lernen sollte ist sich nicht einfangen zu lassen.
Es verhält sich teilweise wie ein kleines Kind das um jeden Preis die Aufmerksamkeit halten will und ständig nachlegt.
Zum Thema, ich hätte es die Tage wirklich gut brauchen können auf Arbeit um mir einige Vorgänge erklären zu lassen. Es hat leider komplett versagt aus oben benannten Gründen.
Ich hab beruflich nur wenig mit IT zu tun muss man dazu wissen.
Zuletzt bearbeitet: