heroesgaming
Captain
- Registriert
- Feb. 2022
- Beiträge
- 3.298
In meinen Augen eher der Beweis dafür, dass eine KI gesunden Menschenverstand nicht ersetzen kann bzw. dass es solchen zu ihrer Verwendung braucht. Wenn du selbst nur Unsinn im Kopf hast, kaum geradeaus denken kannst und obendrein nicht weißt, wie ein korrekter Prompt auszusehen hat, kommt halt solcher Mist dabei raus. Frei nach dem Motto: Shit in, shit out.Pontus schrieb:Hier der Beweis, dass dir KI nur das erzählt was du auch hören möchtest.
Wenn ein LLM, egal welches, beispielsweise solche Ergebnisse auswirft, hat man seinen Kontext vorher mit Sicherheit mit pseudotheologischem Schwachfug vollgemüllt. Anders kann so etwas gar nicht zustande kommen.
Dafür kann die KI selbst mMn weniger etwas, am Ende ist sie ein Werkzeug und sollte als solches auch verstanden und genutzt werden. Wenn ich einen Hammer dazu nutze, mir den Finger zu zertrümmern, wird mir schließlich auch keiner Verständnis entgegenbringen und mir die Ausrede durchgehen lassen, der Hersteller müsse ja dafür haften, dass er nicht darauf hinweise, dass ich den Hammerkopf gegen Nägel anstatt gegen Gliedmaßen zu verwenden hätte.
Noch dazu sollte man ein LLM, das man zu Recherchezwecken verwendet, immer auch Quellen auswerfen lassen, so dass man im Zweifel selbst kritisch prüfen kann, was als Ergebnis geliefert wurde. Wer so weit nicht denkt, ist in m.E. selber schuld.
ChatGPT spielt sich nur dann als Arzt auf, wenn du es dazu aufforderst. Der Nutzer ist für solche Rollenzuweisung selbst verantwortlich.Combine schrieb:Gibt dir der Messerhersteller aktiv Ratschläge wie du etwas zu schneiden hast und nicht auf andere Ratschläge hören sollst?
ChatGPT spielt sich als Arzt auf. Der Messerhersteller hält den Mund und überlässt dir die Verantwortung. Komplett andere Geschichte.
Und dass sich der Hinweis, dass ChatGPT sich irren könne und man Aussagen zu prüfen habe, sich am Ende jedes Chats findet, ist in diesem Kontext eindeutig nicht irrelevant. Sprich von Floskeln, wenn du das willst, aber bei einem normal denkenden Menschen sollte das schon etwas anregen.
Zuletzt bearbeitet: