News KI-Halluzinationen: Google haftet, wenn der AI Overview Falsches behauptet

[Ayo34]

"Google verweist darauf, dass die KI-Antworten im Prinzip nur das wiedergeben, was ohnehin im Netz steht."

Aber genau das stimmt ja eigentlich nicht, wenn die KI eben etwas dazu dichtet. Wenn die KI z.B. eine Quelle angibt und diese Quelle gar nicht existiert oder sogar in der Quelle gar nichts Entsprechendes steht, dann ist das etwas, was eben nicht ohnehin im Netz steht.

Mit der Argumentation könnte man ja sogar schreiben, was man will, und einfach sagen, irgendwo im Netz wird es schon stehen. Eigentlich eine dumme Argumentation.

 

[Nuklon]

@Nuklon Trotzdem schwierig, da KI eben auf riesigen neuronalen Netzen basiert und da auch ein weitreichendes Eigenleben dazugehört, damit sie überhaupt funktioniert, wie es heute schon der Fall ist.

Ohne die Möglichkeit solcher Fehler wäre sie ja nicht "intelligent", sondern würde einfach nur nachplappern, was jemand vorgibt. Und dafür, ihre Ausgaben zu überdenken (oder gar moralisch zu reflektieren), sind die Modelle in diesem Spektrum eben nicht ausgelegt.

Das Beispiel mit Hans Müller ist eigentlich gut, denn auch ein Mensch könnte einem solchen Irrtum unterliegen. Nur würde er es wahrscheinlich relativieren: "War das nicht dieser Hans Müller, der Sexualstraftäter?"
Es ist aber eben nicht das Konzept solcher LLMs, zu relativieren und Fragen aufzuwerfen. Der Nutzer erwartet konkrete Antworten. Hier wird es immer eine gewisse Fehlerwahrscheinlichkeit geben, will man nicht die Geschwindigkeit stark verlangsamen und die Rechenleistung stark erhöhen.

Das einem das Denken komplett abgenommen wird, darauf sollte man sich nie verlassen.

Und es wichtig wer für solche Fehler haftet. Denn oft kostet sowas jemand viel Geld.
Ich kann nicht einfach ein Produkt verkaufen, dass Fehler macht und mich dann aus der Verantwortung stehlen wollen. Auch wenn es eine KI ist. Wenn diese Fehler macht, muss ich als Hersteller haften.

Dieser Bohrer könnte einen Produktionsfehler enthalten. Schade, keine Haftung, passiert nun mal. Fehler sind menschlich. Nein die Firma haftet für Fehler.
Und genau so muss man dann bei KI vorgehen. Ein Rechtsfreier Raum darf nicht entstehen.

 

[af4]

Die Abo-Modelle von OpenAI und Google sind nicht billig. Da erwarte ich auch Qualität und Genauigkeit.

Also wer sich auf die KI Antworten verlässt oder denkt das wäre schon so richtig ist selber Schuld. Etwas Nachrecherche bei einer KI Antwort ist immer gut. Aber es gibt genügend Idioten die sich darauf verlassen, genau wie bei den Navis und schwubs... schon ist das Auto im Fluss gelandet...

 

[BOBderBAGGER]

Gerade Softwarewerkzeuge für kreative, benötigen Einarbeitung und auch das Verständnis, was da passiert, damit man sie perfekt einsetzen

Da bin ich bei dir und davon habe ich reichlich.
Von Low stakes "das sieht aber doof aus" bis "wenn hier was schief geht tut sich jemand weh" ist alles dabei die haben alle eins mit meiner Bohrmaschine gemeinsam sie machen immer das was ich von ihnen verlange.

Es ist jetzt nicht so als wäre ich absolut gegen AI aber wenn gemini 4 Anläufe braucht um den Hintergrund auf einem Bild zu entfernen ohne mir ein generiertes unterschieben zu wollen dann ist für mich noch ein gutes stück von Werkzeug entfernt.

 

[aid0nex]

Absolut korrekte Entscheidung des Gerichtes. Ich bin gespannt, was das noch für einen Einfluss auf die KI-Entwicklung nehmen wird.

Ergänzung (11. Juni 2026)

und so landen am Ende 100 Warnhinweise auf Kaffeebechern.
Achtung Kaffee ist heiß... Ja ach nee. Ist ja auch Kaffee

Dein Vergleich hinkt. In deinem Fall heißt es: Korrekte Aussage oder gar keine Aussage.
Hier geht es um Falschaussagen, die die KI generiert. Also als ob auf dem Kaffeebecher, in dem sich brühend heißer Kaffee befindet drauf stehen würde "Keine Sorge, absolut ungefährlich, der Kaffee ist kalt!"

 

[Banned]

@Nuklon Ich sehe das Problem einfach nicht, wenn doch explizit darauf hingewiesen wird, dass die Ergebnisse fehlerhaft sein können. Wie gesagt, das Denken sollte man sich nie abnehmen lassen, und die Quellen stehen doch daneben und die kann jeder nachprüfen, wenn er möchte.

Problematisch finde ich nur, dass Google nicht reagiert, wenn darauf hingewiesen wird.

Auf Wikipedia standen z.B. schon massig rufschädigende Falschinformationen und es gab kaum erfolgreiche Klagen. Weil man sich hier einen schlanken Fuß macht und die Verantwortung auf Autoren abwälzt, sich gleichzeitig aber den Anschein einer seriösen Online-Bibliothek geben möchte.

Aber wie dem auch sei, viel mehr als Bremsen kommt aus der EU beim Thema KI leider nicht.

 

[Kazuya91]

Richtig so.

 

[Hendrik2]

Grundlegend verstehe ich das Anliegen. Ich will ja auch nicht, das irgend ein Schwachsinn über mich verbreitet wird. Aber:

• Energieverbrauch Google KI: Größenordnung eines einzelnen EU-Landes.
• Energieverbrauch Zensur/Filter: Erreicht bald die Größenordnung der gesamten EU.

Darauf wird es hinauslaufen.

 

[Peter 23]

Sehr gut, hoffe da kommt einiges auf die KI-Anbieter zu an Klagen.

 

[Cleric]

Realität des Internets trifft auf deutsche Korinthenkacker mit Vollkasko-Mentalität und ständig erhobenen Zeigefinger.

Damals im Jahre 2003 -> Bruce Schneier / Produkthaftung ändert alles

Ist bei mir mal hängen geblieben. Erfreulich dass sich über 20 Jahre später mal etwas bewegt. Insbesondere einige bestimmte Unternehmen freuen sich doch in erheblichem Maße, dass sie für ihre Beta-Dauerbaustellen im Prinzip kaum, sehr selten bin hin zu gar nicht haften müssen.

Wenn man sich das Ausmaß und die Geschwindkeit der Digitalisierung und die Durchdringung mit AI anschaut, dann wird es genau dafür höchste Zeit. Nämlich eine wirklich ernsthafte Produkthaftung.

Baut man Mist, haut man irgendwelche halbgaren, vielleicht sogar gefährlichen Produkte raus, dann sollte man haften, bis es richtig weh tut. Keine weitgehenden Haftungsausschlüsse mehr in den Geschäftsbedingungen.

 

[Syntax_41]

Baut man Mist, haut man irgendwelche halbgaren, vielleicht sogar gefährlichen Produkte raus, dann sollte man haften, bis es richtig weh tut. Keine weitgehenden Haftungsausschlüsse mehr in den Geschäftsbedingungen.

Sollte auch für Arbeitnehmer gelten. Baut man Mist (absichtlich oder unabsichtlich) und produziert einen Millionenschaden, sollte man einzig und allein dafür haften.

 

[Googlie]

… nur das wiedergeben, was ohnehin im Netz steht …

Häh, das konnte die Google-Suche doch vor LLMs auch schon?!? Also sind die letztendlich gar keine Innovation und können nix Neues?!? Trotzdem hat Google ihretwegen seine Klimaschutzversprechen zurückgenommen:

• https://fortune.com/2024/07/10/ai-h...emissions-rising-50-over-the-last-five-years/
• https://www.tomshardware.com/tech-i...e-moved-to-background-amidst-ai-energy-crisis

 

[Elderian]

Sollte auch für Arbeitnehmer gelten. Baut man Mist (absichtlich oder unabsichtlich) und produziert einen Millionenschaden, sollte man einzig und allein dafür haften.

Vielleicht merkst Du mit ein wenig Nachdenken selbst, dass das längst so ist. Für Deine privaten Verfehlungen gibt es eine Haftpflichtversicherung.
Für alles im Rahmen der Arbeit darf der Arbeitgeber geradestehen, im Falle eines Falles kann das auch für den Arbeitnehmer Konsequenzen haben. Auch dafür gibt es Versicherungen, und vor allem auf Prozesse, damit das möglichst vermieden wird. Es wird getestet, Reviews werden gemacht, Zertifizierungen, Prüfungen, Bescheinigungen, etc. Kostet alles Geld, aber eben nicht so viel wie ein entsprechender Schaden kosten würde. Und versichern kann sich der Arbeitgeber auch noch.

Bei Ki heisst es hingegen: Verlass Dich bloß nicht drauf! Prüfe alles nach! Und wenn die KI Blödsinn erzählt, dann musst Du das erkennen! Die KI verlinkt doch sogar die Quellen!
... nur wenn sie sich etwas herbeihalluziniert, das nachweisbar nirgends steht... bei einem Menschen würde man das wohl einfach als Lüge bezeichnen


Klar, wenn mir der Statiker, der mein Haus plant sagt: Das passt schon so, und die Bude stürzt später ein, dann hätte ich mal besser nachgeprüft, was der mir erzählt hat. Ich bin ja schlißelich selber Statiker und kann das beurteilen...

Es sollen also einfach ähnliche Bedingungen gelten, ob das Ergebnis nun von einem Menschen oder von einer KI erzeugt wurden.

 

[iron_monkey]

Ich frag mich ja ob es nicht irgendwann mal langweilig wird, wenn man unter jeder KI News den gleichen sinnlosen Kram schreibt, um Likes zu generieren... oder was soll bitte der Sinn sein? Ich verstehe es nicht.

Was ist der Sinn hinter deinem Beitrag?

Ergänzung (12. Juni 2026)

Im Prinzip verhält die sich also genau wie ein Mensch!

Lass den Beitrag mal nicht deine Freundin/Frau lesen ;-)

Edit:

Ist ja richtig erheiternd, wenn Einige hiermit großen Augen merken, bei "Haftung ists vorbei mit KI" und dann kommt als Lösung, sie müssen einfach nicht haften.

Ja, genau, das ist die Lösung! :--D

Dann bin ich der erste KI-Geldanlagenberater der euer Geld direkt von meiner KI auf mein Konto überweisen lässt und euch im gleichen Moment mitteilt, Investition weg, pech gehabt die KI hatte schuld (KI Voodoo), geht in Keller weinen!

Ergänzung (12. Juni 2026)

Man darf ja immer sagen "Hans hat Lisa sexuall genötigt"

Spätestens, wenn Du persönlich darüber informiert wirst, dass die Infromationen aus deinem Zitat nicht der Wahrheit entsprechen, darfst du das dann nicht mehr sagen.

Du kannst es dann noch sagen aber musst dann halt mit entsprechenden Konsequenzen rechnen, Gesetze sind nicht dazu da, um Verleumdung, Rufschädigung oder Rufmord eine Hintertür zu bieten.

 

[Stanzlinger]

Spätestens, wenn Du persönlich darüber informiert wirst, dass die Infromationen aus deinem Zitat nicht der Wahrheit entsprechen, darfst du das dann nicht mehr sagen.

Du kannst es dann noch sagen aber musst dann halt mit entsprechenden Konsequenzen rechnen, Gesetze sind nicht dazu da, um Verleumdung, Rufschädigung oder Rufmord eine Hintertür zu bieten.

Solange es auf XYZ steht, darf sehr wohl sagen, das auf Seite XYZ das so steht. Alles andere wäre Leugnung der Realität. Es steht ja nun mal auf der Webseite.

 

[iron_monkey]

Wenn die "Foto" heute schreibt: " Stanzlinger ist ein >Erfundenen Behauptung<," morgen wird das durch deinen Anwalt vor Gericht kassiert, ich das dann hier übermorgen wieder poste als Zitat der Foto, bekomme ich Post von deinem Anwalt.

Das Zitat ist gerichtlich als Falschbehauptung deklariert und deine/meine "Ausrede" ich zitiere dann hinfällig.

Ich kann dann weitermachen, spätestens vor Gericht wirst du dann wieder grinsen/lachen und ich nicht mehr!

 

[heroesgaming]

Mit der Argumentation könnte man ja sogar schreiben, was man will, und einfach sagen, irgendwo im Netz wird es schon stehen. Eigentlich eine dumme Argumentation.

Halte ich auch für arg fragwürdig.

Ganz davon abgesehen habe ich Gemini an dieser Stelle definitiv schon halluzinieren sehen, auf Nachfrage folgte dann die Korrektur. Quellen gab es da ganz sicher keine, da ich absichtlich einfach Quatsch gesucht hatte. Also so viel zu dem Thema … solange Google Halluzinationen bei dieser Funktion nicht komplett ausschließen kann (mutmaßlich also absolut niemals), kann diese Interpretation gar nicht zutreffen.

 

[Alphanerd]

Baut man Mist (absichtlich oder unabsichtlich) und produziert einen Millionenschaden, sollte man einzig und allein dafür haften.

Wenn das absichtlich passiert, gibt es den Klageweg. Richtigerweise.

Ist es unabsichtlich passiert, hatte der MA zu viele Befugnisse, zu wenig Schulung, zu wenig Aufsicht, die Vorgesetzten haben geschlafen, oder eine Kombination aus den genannten Punkten. Da ist dann die Firma selber schuld.

 

[Syntax_41]

@Alphanerd Mein Coder hat durch einen kleinen Fehler im Code einen H200 geschrottet. Kosten 37.000€ hätten auch leicht alle erwischen können. Soll ich ihn jetzt verklagen?

Fehler passieren, gehören zum allgemeinen Lebensrisiko. Ich glaube nicht, dass hier Google absichtlich gehandelt hat.

Würde gerne wissen, ob man gleich eine einstweilige Verfügung bewirkt hat. Oder vorher sich mit Google in Verbindung gesetzt hat …

Naja, wird der Prozess zeigen. Bin aufs Urteil gespannt.

 

[Alphanerd]

Mein Coder hat durch einen kleinen Fehler im Code einen H200 geschrottet. Kosten 37.000€ hätten auch leicht alle erwischen können. Soll ich ihn jetzt verklagen?

Wird nicht funktionieren, wenn er es nicht mit voller Absicht gemacht hat, um euch zu schaden.

Habt ihr da keine Versicherung?