News Fehler und Halluzinationen: ChatGPTs Suchfunktion erfindet Ergebnisse für DFB-Pokalspiele

[sNo0k]

die Leichtgläubigkeit der Menschen

2 Dinge sind unendlich, laut Einstein... 🙄

 

[SIR_Thomas_TMC]

Wenn man die Stärken und Schwächen von der jeweiligen KI kennt, und die eigenen Prompts auch soviel erklären, wie man zur Verständnis der Aufgabe selbst bräuchte, lassen sich ordentliche Ergebnisse erzielen.
Texte überarbeiten bzw. erstellen funktioniert sehr gut, Inhalte zusammenfassen auch, bei ChatGPT. "Brainstorming" auch, soweit die vorliegenden Daten genug hergeben.

Auf alles, was dabei rauskommt, sollte man ein Auge haben, also durchlesen und ggf. korrigieren.

 

[Bruzla]

das macht mein Vater schon seit Jahren so.

 

[SIR_Thomas_TMC]

Ganz schön schlecht.

Direkt wertlos. Was will ich mit ausgewürfelten Suchergebnissen?

Draufklicken und prüfen, ob es zu deiner Suchanfrage passt.

Ergänzung (5. Dezember 2024)

das macht mein Vater schon seit Jahren so.

Was genau, ki verwenden oder überprüfen, was ki ausgibt?

Ergänzung (5. Dezember 2024)

Wenn sie nicht zu 100% akkurat ist, wozu brauche ich sie dann?

Vielleicht ist ki dann ja nix für dich. Ist eigentlich nicht schlimm.

 

[Bruzla]

Was genau, ki verwenden oder überprüfen, was ki ausgibt?

Über DFB-Pokal Ergebnisse halluzinieren

 

[Mxhp361]

Direkt mal Lottozahlen anfragen

Hab ich probiert - war ein Satz mit X, wär hätte das gedacht ^^

 

[Weyoun]

Gibt genug Studien mittlerweile, in denen die Schlussfolgerung ist, dass man keine Zeit spart, sich die Bugdichte aber massiv erhöht, und dazu noch sich die Burnoutmarker bei den Nutzern verstärken… Um schnell mal was unwichtiges auf die Beine zu stellen - ja, für seriöse Programmierung - besser bleiben lassen.

In der Automtotive-Steuergeräte-Entwicklung mit hohen Sicherheits-Leveln (ASIL A bis D ist KI ein absolutes nogo. Im Bereich der Antriebsachsen (Motor und Getriebe), bei der Bremse sowie bei Airbags und anderen Sicherheitsfeatures geht es immerhin um Leben und Tod.

 

[aspro]

Draufklicken und prüfen, ob es zu deiner Suchanfrage passt.

Toll, dann kann ich auch gleich Google benutzen. Da weiß der User wenigstens, dass er in der Regel noch auf einen Link klicken muss, um eine vernünftige Antwort zu erhalten. Dieses KI-Gedöns suggeriert allerdings mit wohlformulierten Antworten, dass man nichts weiter machen muss. Das ist schlicht Irreführung.

 

[Tuchanka]

Genau das ist der logische Trugschluss, den die anderen machen.

Ich stimme Deiner Problembeschreibung zu, aber Falschinformation wird ja nicht erst verbreitet seit es KI gibt. Und klar, Kennzeichnungsregeln helfen nicht, wenn bewusst Fakes generiert werden sollen.
Neu ist doch, dass mit wenig Aufwand aufwändig erscheinende Inhalte (Berichte, Datenzusammenstellungen) erzeugt werden können und manche die Lorbeeren trotzdem einsacken wollen, als wäre es Handarbeit. Um dieses Verhalten gesellschaftlich allgemein sanktionieren zu können (so es denn auffliegt, schon klar), muss erstmal die Abmachung her, sich gegenseitig nicht über die Entstehung von Inhalten zu täuschen.
Wenn wir am Punkt „Das machen doch alle anderen auch!“ ankommen, wird die Bereitschaft für sauberes Arbeiten und sorgfältiges Prüfen schwinden.

 

[7H0M45]

Neu ist doch, dass mit wenig Aufwand aufwändig erscheinende Inhalte (Berichte, Datenzusammenstellungen) erzeugt werden können und manche die Lorbeeren trotzdem einsacken wollen, als wäre es Handarbeit. Um dieses Verhalten gesellschaftlich allgemein sanktionieren zu können (so es denn auffliegt, schon klar), muss erstmal die Abmachung her, sich gegenseitig nicht über die Entstehung von Inhalten zu täuschen.

Empfindest du es jetzt als Problem, wenn jemand effizient arbeitet und dafür Lorbeeren will?

Sollte es nicht eigentlich um den tatsächlichen Inhalt gehen und nicht darum wie aufwändig er erscheint?

Ist ein weniger aufwändig erscheinender Inhalt jetzt besser nur weil er nicht mithilfe von KI gemacht wurde?

Ist ein aufwändig erscheinender Inhalt schlechter wenn er mithilfe von KI erstellt wurde?

 

[sNo0k]

Ist ein aufwändig erscheinender Inhalt schlechter wenn er mithilfe von KI erstellt wurde?

Der Inhalt ist schlechter, wenn er weniger korrekt ist.

 

[Project 2501]

LLM = Wortvorhersage, nicht mehr und nicht weniger.

Ergänzung (5. Dezember 2024)

Gebt mir xxxx Milliarden Geld und ich bau euch ein Spielzeug das nix taugt. Und die "Dummen" fallen auch noch drauf rein und geben fleißig Geld.

Taugen tuts schon, man muss halt genau wissen wofür, und wofür nicht.

Ergänzung (5. Dezember 2024)

Ich finde das echt lustig - weil es sehr schön zeigt, dass ein erheblicher Teil der Leute überhaupt nicht kapiert hat, was diese Software ist, macht, kann.

Man kann den Leuten aber echt keinen Vorwurf machen, es wird überall als die größte IT-Erfindung seit dem Internet angepriesen und als "Intelligenz" vermarktet.

Ergänzung (5. Dezember 2024)

Was ChatGPT m.E.n. sehr gut kann ist programmieren.

obwohl es auch da sehr gerne halluziniert und Code produziert, der so nicht funktioniert.

 

[Schmarall]

Man kann den Leuten aber echt keinen Vorwurf machen, es wird überall als die größte IT-Erfindung seit dem Internet angepriesen und als "Intelligenz" vermarktet.

Doch! Wer irgendwelchen Werbeversprechen oder Firmen-PR glaubt, der IST Schuld. Egal bei welchem Thema. Selbst denken macht intelligent.

 

[tollertyp]

Wenn sie nicht zu 100% akkurat ist, wozu brauche ich sie dann?

Sind deine Arbeitskollegen 100% akkurat?

 

[Maviapril2]

@tollertyp Sie sind fähig zur Reflektion

 

[tollertyp]

@Maviapril2: Ein einfaches "Nein" hätte gereicht. Reflektion hat was mit Akkuratesse zu tun?
Ich könnte noch viele Eigenschaften haben, die Kollegen von mir haben, die nichts damit zu tun haben, ob sie "100% akkurat sind". Selbst ich weiß von mir, dass ich nicht 100% akkurat bin.

Und: Ich habe auch schon Kollegen gehabt, deren Fähigkeit zur Reflektion - wie formuliere ich es freundlich - stark ausbaufähig waren.

Btw: Ich sagte Mal, auf die Code-Refactoring-Werkzeuge von IntellIJ verlasse ich mich (die ohne KI auskommen). Aber selbst denen passiert es hin und wieder, dass sie Fehler machen (was aber in den Fällen, die ich meine, zum Glück gleich auffällt, weil das Ergebnis nicht compiliert). Was ist denn bitte überhaupt 100% akkurat?