News KI-Halluzinationen: Google haftet, wenn der AI Overview Falsches behauptet

[polyphase]

Hier stand Mist

 

[Turrican101]

Früher haben die Leute gesagt "Glaub nicht alles was im Internet steht" oder wenigstens am 1. April noch nachgedacht, ob eine Meldung stimmen könnte.

Stimmt, da hat aber keiner gesagt "das Internet ist unbrauchbar, trotz hauptsächlich richtiger Infos gibt es zuviele falsche Informationen".

KI ist halt ein Werkzeug und muss auch so verwendet werden. Ergebnisse darf man nicht einfach glauben. Genauso wie man nicht alles glauben darf, was in Foren steht.

 

[gustlegga]

Genauso wie man nicht alles glauben darf, was in Foren steht.

Du meinst wenn man hier des öfteren zB auf die Frage nach "Quelle ?" als Antwort bekommt "ChatGPT sagt :"

 

[MUC]

Google verweist darauf, dass die KI-Antworten im Prinzip nur das wiedergeben, was ohnehin im Netz steht. Folgt man dieser Logik, sind die KI-Inhalte also weiterhin eine Art Suchfunktion, bei der lediglich die Ergebnisse nicht mehr in der klassischen Form dargestellt werden.

das bestärkt mich in meiner Interpretation dass die heutige KI keine "I" ist, denn dann müßte sie Probleme von selbst erkennen und Lösungen erarbeiten

 

[flex420]

konsequenz wird sein das es die AI overview dann im zweifel halt nicht mehr gibt in der EU. Maps Ergebnisse gibts ja auch schon nicht mehr automatisch in der EU.....

 

[ranzassel]

Hui, das wird lustig - wenn jeder für seine (Falsch-)Behauptungen grade stehen muss, das klingt das ja schon fast nach... Verantwortung?

Dann ist quasi die komplette deutsche Politik am Ende. Keine Falschbehauptungen UND Verantwortung, kann sich die Union direkt kollektiv zur nächsten JVA begeben.

 

[icezolation]

Da ich schon viel zu oft mitbekommen habe wie sich Kollegen in der Vergangenheit auf diese KI-Zusammenfassungen verlassen haben kann ich das ganze nur begrüßen.

 

[Nuklon]

Wenn die Quelle der KI eine Webseite ist, dann kann die die KI ja nix dafür. Wie soll sie das auch gegenprüfen? Wenn man eine Webseite zitiert, darf man den Text ja auch erwähnen - ohne sich die Aussage zu eigen zu machen. Wenn also wo steht, Hans hat Lisa sexuall genötigt - dann darf jeder dieses zitieren. Der Unschuldige muss das erstmal ertragen. Daher, die KI muss die Quelle nennen und die Quelle muss dann belangt werden. Sonst dürfte man ja nur noch Sachen posten, wo man selbst dabei war.

Es geht darum das KI Sachen vermischt, die nicht zusammen gehören. Wie in dem Beitrag von Computerbase. Wo sie Meldungen zu betrügerischen anderen Firmen den beiden Seriösen angedichtet hat.
Das ist einfach falsch.
Es geht nicht darum das die KI Quellen zitiert, sondern das sie falsch zitiert, mit Dingen die so gar nicht wahr sind.

Oder in deinem Beispiel: Ist Hans Müller seriös?
Die KI findet 13 Einträge zu Hans Müller mit sexuellen Belastungen und sagt: nein Hans Müller in Dortmund ist nen ganz schlimmer Finger. Obwohl alle Meldungen auf den Hans in Hannover verweisen. Das ist grob rufschädigend und muss sanktioniert werden, bzw. verhindert.

 

[Floorp]

biddeschön : (Thread)

https://bsky.app/profile/arminwolf.at%2Fpost%2F3mnwijhvqmc2j

(Erklärung zur Person Armin Wolf: Moderator der 22 Uhr Nachrichten und stellvertretender Chefredakteur der Newsabteilung des Österreichischen Rundfunks ORF)

Das kam bei mir raus.

 

[Banned]

Oder in deinem Beispiel: Ist Hans Müller seriös?
Die KI findet 13 Einträge zu Hans Müller mit sexuellen Belastungen und sagt: nein Hans Müller in Dortmund ist nen ganz schlimmer Finger. Obwohl alle Meldungen auf den Hans in Hannover verweisen. Das ist grob rufschädigend und muss sanktioniert werden, bzw. verhindert.

Und wenn die 13 Meldungen gezielte Fake News sind, um jemandes Ruf zu schädigen? Dass KI in jedem Fall alle Quellen nach korrekt nach ihrer Seriosität bewertet, ist leider illusorisch. Dann können wie die KI-Suche gleich komplett einmotten.
Wenn ich z.B. einen gezielt irreführenden Bericht im Netz finde, mir dies aber nicht bewusst ist, und ich diese Information mit anderen Teile, sollte ich dann mit haftbar sein? Eher nein, oder?

Ist insgesamt ein schwieriges Thema. Nachdem man in der EU die Entwicklung komplett verschlafen hat, tut man nun zumindest alles, um die anderen zu behindern.

Das Urteil in diesem Fall konkrete finde ich aber richtig. Wenn Google einfach nicht reagiert, dann ist das was anderes, als wenn unabsichtlich falsche Informationen aufgegriffen werden.

 

[Nuklon]

Und wenn die 13 Meldungen gezielte Fake News sind, um jemandes Ruf zu schädigen? Dass KI in jedem Fall alle Quellen nach korrekt nach ihrer Seriosität bewertet, ist leider illusorisch. Dann können wie die KI-Suche gleich komplett einmotten.

Dann ist es immer noch nicht der Hans Müller in Dortmund, dem die KI es andichtet, sondern der in Hannover. Es geht nicht darum das die KI Fake News zitiert, sondern selber erzeugt und Zusammenhänge erstellt, die nicht da sind und da soll der Verursacher der haften. In dem Fall Google.

 

[Banned]

@Nuklon Trotzdem schwierig, da KI eben auf riesigen neuronalen Netzen basiert und da auch ein weitreichendes Eigenleben dazugehört, damit sie überhaupt funktioniert, wie es heute schon der Fall ist.

Ohne die Möglichkeit solcher Fehler wäre sie ja nicht "intelligent", sondern würde einfach nur nachplappern, was jemand vorgibt. Und dafür, ihre Ausgaben zu überdenken (oder gar moralisch zu reflektieren), sind die Modelle in diesem Spektrum eben nicht ausgelegt.

Das Beispiel mit Hans Müller ist eigentlich gut, denn auch ein Mensch könnte einem solchen Irrtum unterliegen. Nur würde er es wahrscheinlich relativieren: "War das nicht dieser Hans Müller, der Sexualstraftäter?"
Es ist aber eben nicht das Konzept solcher LLMs, zu relativieren und Fragen aufzuwerfen. Der Nutzer erwartet konkrete Antworten. Hier wird es immer eine gewisse Fehlerwahrscheinlichkeit geben, will man nicht die Geschwindigkeit stark verlangsamen und die Rechenleistung stark erhöhen.

Das einem das Denken komplett abgenommen wird, darauf sollte man sich nie verlassen.

 

[gustlegga]

Das kam bei mir raus.

Hat man ja in der Tat schnell reagiert.
Halte trotzdem nichts von diesen KI-Suchergebnissen... 🤷‍♂️

 

[Stanzlinger]

Es geht darum das KI Sachen vermischt, die nicht zusammen gehören. Wie in dem Beitrag von Computerbase. Wo sie Meldungen zu betrügerischen anderen Firmen den beiden Seriösen angedichtet hat.
Das ist einfach falsch.
Es geht nicht darum das die KI Quellen zitiert, sondern das sie falsch zitiert, mit Dingen die so gar nicht wahr sind.

Oder in deinem Beispiel: Ist Hans Müller seriös?
Die KI findet 13 Einträge zu Hans Müller mit sexuellen Belastungen und sagt: nein Hans Müller in Dortmund ist nen ganz schlimmer Finger. Obwohl alle Meldungen auf den Hans in Hannover verweisen. Das ist grob rufschädigend und muss sanktioniert werden, bzw. verhindert.

Deswegen soll die KI die Quellen angeben und der Anwender soll sich selber informieren. So funktioniert auch eine Google Suche, wenn man selber recherchiert.

 

[BOBderBAGGER]

Deswegen soll die KI die Quellen angeben

Die KI hat sich scheinbar wirklich einfach was zusammenphantasiert so funktioniert keine Suche.

So entstanden falsche Behauptungen, die die Verlage im Zusammenhang mit Abofallen, Betrugsmaschen und unseriösen Geschäftspraktiken brachten, obwohl solche Inhalte in keiner der Quellen standen, berichtet Decoder.

 

[DevPandi]

Ähm ne. KI soll ein Werkzeug sein, so wirds zumindest verkauft... Ich muss meine Bohrmaschine auch nicht überreden wenn ich ein Loch bohren will.

Ehrlich gesagt - und die Frechheit nehme ich mir jetzt heraus: Dein Vergleich hinkt gewaltig und zeigt, dass du den Unterschied zwischen komplexen Softwarewerkzeugen - und hier ist ein LLM noch mal eine Steigerung - und einer einfachen Bohrmaschine wohl bewusst ausblenden willst.

Gerade Softwarewerkzeuge für kreative, benötigen Einarbeitung und auch das Verständnis, was da passiert, damit man sie perfekt einsetzen kann und selbst bei einer Bohrmaschine kann es kompliziert werden, wenn sie Drehmoment, Schlag- und andere Sachen mitbringt, die am Ende richtig eingestellt werden müssen.

 

[JanMH]

Äh nein, einfach nur nein.
Einer der Gründe warum es z.B. verschiedene

Ich weiß das Konzerne Rechte haben, sehr viele Rechte sogar. Komischerweise fast nie Pflichten, und wenn sie welche haben, jammern sie rum, daß sie viel zu viele Pflichten haben.

Google gibt doch selbst zu, das die "KI" Fehler machen kann, wenn sie sagen, daß die allermeisten Ergebnisse richtig sind. Da steckt für mich drin, daß Fehler bewusst und absichtlich eiinkalkuliert sind.
Also kann man als Konzern mal den Arsch in der Hose haben, und direkt vor Gericht sagen: ja, wir haben einen Fehler gemacht, und berichtigen daß.

Worauf du insgesamt hinaus willst ist mir absolut klar. Ich finde es zum kotzen das Konzerne sich quasi rausnehmen können was sie wollen.

Daß das Justizsystem, in diesen Bereichen, mehr als ungerecht ist, ist ja wohl klar. Dafür haben Konzerne und ihre Helfershelfer in der Politik jahrzehntelang gesorgt.

 

[Zemblanity]

Ich habe mit die 8 Seiten Kommentare nun nicht alle durchgelesen. Vielleicht hat es ggf. schon jemand so ähnlich erwähnt.
Das Urteil ist unter https://the-decoder.de/wp-content/u..._2026_Geschwaerzt_Geschwaerzt_Geschwaerzt.pdf [dreimal geschwärzt im Dateinamen, warum auch immer, einmal hätte doch gereicht] verlinkt. Warum verlinkt der Computerbaseartikel nicht auch das Urteil direkt?

Im Urteil fiel mir auf, dass im Urteilstext Namen der beiden Verfügungsklägerinnen und der Name der "Verfügungsbekalgte" [sic!; es liest auch bei Gericht keiner mehr Korrektur] geschwärzt sind. Auf den Seiten 3, 5, 7, 8, 10, 11 und 12 findet man dann aber auf den Screenshots die Namen von Verlag(en) und anderen Unternehmen. Wobei "G[...]" dann auf Seite 6 auch im Text direkt erwähnt wird.

Putzig ist auch die Einleitung mit:
"erlässt das Landgericht München I - 26. Zivilkammer - durch den Vorsitzenden Richter am Land-
gericht Dr. [geschwärzt], den Richter [geschwärzt] und die Richterin am Landgericht M[...] am 28.05.2026
aufgrund der mündlichen Verhandlung vom 23.04.2026 folgendes"
Der Nachname der Richterin steht im Klartext im PDF. Warum sollen Namen der beteiligten Richter überhaupt geschwärzt werden? Ist denen ihr Urteil peinlich? Es ist ja nicht so, dass die Namen der Richter am Landgericht geheim wären, die findet man u.a. im Geschäftsverteilungsplan des Landgerichts München I unter justiz.bayern.de.

 

[Mithrandil]

Wieso sehe ich nie etwas von diesen Halluzinationen? Will auch mal solche lustigen Dinge erleben.

Einfach die KI etwas fragen, das man nicht wissen oder beantworten kann. In den seltensten Fällen wird sie zugeben, dass sie es nicht weiss.
Da gibt es einige lustige Besipiele, z.B.: jemand fragte ChatGPT, was das "S" in ChatGPT bedeutet

 

[Beelzebot]

Ein LLM kann eben prinzipbedingt nicht zwischen wahr und falsch unterscheiden und Zusammenhang ist für die AI lediglich Statistik.

Das ist exakt der Punkt! Wenn man das verinnerlicht hat, kann man AI effektiv und vor allem richtig einsetzen. Eine KI kann nichts verstehen, sie kann nur dem Verstehenden zuarbeiten.

Warum sollen Namen der beteiligten Richter überhaupt geschwärzt werden? Ist denen ihr Urteil peinlich?

Das liegt daran, da das Dokument von den Prozessbeteiligten in Umlauf gebracht wurde. Offiziell abrufbar ist es meines Wissens nach noch nicht.