News KI-Halluzinationen: Google haftet, wenn der AI Overview Falsches behauptet

[LencoX2]

"Alle Rechte, keine Haftung" ist kein sinnvolles und logisches Rechtskonzept.
Erst Haftbarkeit erzeugt ein regelbasiertes Umfeld.
Ohne Haftbarkeit würde jeder ohne Konsequenzen alles tun und machen wie er will.

Moment...das machen die doch gerade.
Eben.

 

[iron_monkey]

Denn laut Marketing sind die KI Maschinen so genial und gescheit wie Einstein, Michelangelo, Hawkins und viele mehr zusammen.

und optimieren dein Unternehmen so toll, dass das Geld quasie aus allen Wänden quillt*.

*(oder ruinieren dich in Sekunden, dafür haften wir aber nicht, weil unsere KI einfach wie ein Junkie auf Drogen Blödsinn erzählt aber nur manchmal, oder so :--D )

 

[samuelclemens]

1. die Gesellschaft muss lernen, dass KI keine 100% zuverlässigen Antworten liefert und kaum zugibt, wenn sie etwas nicht weiss sondern anfängt zu haluzinieren.

Im Prinzip verhält die sich also genau wie ein Mensch! 😅
Aber die muss sich Weiterentwickeln um das besser verschleiern zu können zb unauffälliger Themenwechsel oder patzig kontern und von der sachlichen Ebene den anderen auf die persönliche runterzuziehen. Oder mit Gegenfragen kontern die nix mit dem Thema zu tun haben. Am besten noch den Fragesteller um Nachweise fragen wenn man eine offensichtliche Falschinformation richtig stellt. Also den Spieß umdrehen.
Und wenn alles nix hilft einfach ne technische Panne vortäuschen und ne Error Meldung in technikauderwelsch raushauen die keiner versteht.

 

[Andy]

Artikel-Update: In einer Stellungnahme verweist Google darauf, dass es sich bei der einstweiligen Verfügung noch um eine vorläufige Entscheidung handelt. „Wir investieren intensiv in die Qualität der AI Overviews, um zu gewährleisten, dass die überwältigende Mehrheit der Antworten korrekte Informationen liefert. Sie sind darauf ausgelegt, die im Web vorhandenen Informationen widerzuspiegeln“, sagt ein Google-Sprecher auf Anfrage von ComputerBase. Man prüfe die Entscheidung nun sorgfältig.

Interessant an der Stellungnahme: Google verweist darauf, dass die KI-Antworten im Prinzip nur das wiedergeben, was ohnehin im Netz steht. Folgt man dieser Logik, sind die KI-Inhalte also weiterhin eine Art Suchfunktion, bei der lediglich die Ergebnisse nicht mehr in der klassischen Form dargestellt werden.

 

[Floorp]

Wieso sehe ich nie etwas von diesen Halluzinationen? Will auch mal solche lustigen Dinge erleben.

 

[Nuklon]

Ich würde wenn ich Google wäre einfach einen Hinweis ganz unten bei der KI Antwort machen das die Antwort Fehler enthalten kann und Google dafür nicht haftet dann dürften die Gerichte Machtlos sein.

Okay die KI vermischt dich mit deinem Frauen vergewaltigenden Namensvetter. Vor deinem Haus tobt der Lynchmob, Polizeischutz, dein Arbeitgeber entlässt dich, weil er Boykottaufrufe bekommt und Google sagt: Hinweis steht doch drunter, bleibt so.

Bist immer noch der Meinung?

 

[the_IT_Guy]

überwältigende Mehrheit

Was ein Quatsch. So eine typische Juristenantwort.

Sie sind darauf ausgelegt, die im Web vorhandenen Informationen widerzuspiegeln

Das ist halt auch eine Nebelkerze. Das macht halt die KI Funktion im Gegensatz zur Suche nicht, weil sie eben "Informationen" generiert.

 

[steirerblut]

Haftung für KI Aussagen würde den Stillstand der Technologie bedeuten. Ich verklag ja ToysRUs auch nicht weil der MagicEightball aus dem Spielzeug Sortiment falsche Angaben liefert. So ungefähr sollte man die Ergebnisse von KI deuten; mächtig Tools zweifellos, aber blindes Vertrauen kann nicht die Lösung sein.

 

[Apocalypse]

Ich sehe die Reaktion der Gerichte zwar einerseits als verständlich, aber auch als etwas übertrieben an. (Man könnte ja gar keine KI mehr nutzen, da man vorher nie weiss, welche Antworten generiert werden könnten).

Das ist doch nicht das Problem von den Leuten die dann eventuell verleumdet werden ob Google jetzt keine KI mehr verwenden kann oder nicht. Entweder das Funktioniert ausreichend gut oder halt nicht.

Ergänzung (11. Juni 2026)

Ich würde wenn ich Google wäre einfach einen Hinweis ganz unten bei der KI Antwort machen das die Antwort Fehler enthalten kann und Google dafür nicht haftet dann dürften die Gerichte Machtlos sein.

"Mein Nachbar, der ist schon ein ganz schöner Drogenhändler, sein schickes Auto hat er auch nur weil er Drogen verkauft und seine Tochter anschaffen schickt. Hab ich gehört, kann mich natürlich auch irren. "

Nein, ich glaube nicht das Google da mit einem Disclaimer davon kommt.

 

[Stanzlinger]

Okay die KI vermischt dich mit deinem Frauen vergewaltigenden Namensvetter. Vor deinem Haus tobt der Lynchmob, Polizeischutz, dein Arbeitgeber entlässt dich, weil er Boykottaufrufe bekommt und Google sagt: Hinweis steht doch drunter, bleibt so.

Bist immer noch der Meinung?

Wenn die Quelle der KI eine Webseite ist, dann kann die die KI ja nix dafür. Wie soll sie das auch gegenprüfen? Wenn man eine Webseite zitiert, darf man den Text ja auch erwähnen - ohne sich die Aussage zu eigen zu machen. Wenn also wo steht, Hans hat Lisa sexuall genötigt - dann darf jeder dieses zitieren. Der Unschuldige muss das erstmal ertragen. Daher, die KI muss die Quelle nennen und die Quelle muss dann belangt werden. Sonst dürfte man ja nur noch Sachen posten, wo man selbst dabei war.

 

[chillipepper]

Endlich geschieht mal etwas in die richtige Richtung. Top!

 

[RaptorTP]

Kleber in Pizzakäse

ist für Marketing, denk ich.
Da gib es Tricks um Werbevideos "leckerer" aussehen zu lassen.

Ja gut, geht gerade auch ein Klassiker rum:

 

[DonDonat]

Wieso sehe ich nie etwas von diesen Halluzinationen? Will auch mal solche lustigen Dinge erleben.

Weil du wahrscheinlich entweder a. nichts eingibst, was Edge-Cases sind oder b. nicht in der Lage bist die Halluzination zu erkennen.

Probleme sind ja nicht diese Halluzinationen, die man sofort sieht z.B. wenn die "KI" sich einfach mal ausdenkt dass es ein Seepferdchen Emoji gibt und dann in nem Endlos Loop hängt weil es dass ja doch nicht gibt.

Problematisch sind die, die du nicht erkennen kannst weil dir selbst das Wissen fehlt.

Gutes Beispiel, du kannst natürlich die "KI" fragen dir Code zu generieren, der Dinge tut die in einer Programmiersprache nicht möglich sind und die "KI" wird dir in vielen Fällen auch was ausspucken... Aber wenn du nicht bereits Experte in der Sprache bist, siehst du es halt einfach nicht und nimmst an die weiß was sie tut.

Schlimmer wird es noch, wenn du tatsächlich in Dinge kommst, die Haftungsfragen nach sich ziehen und die "KI" was halluziniert: es gibt bereits mehrere Fälle wo die "KI" die Depression von Leuten verstärkt hat, weil sie z.B. Ängste auf Basis von nicht realen Dingen bestätigt.


@Topic zum Update
War ja klar, dass man sich hier nicht in der Verantwortung sieht.
Wäre ja auch nur zu realistisch, wenn man anerkennen würde, dass man Inhalte generiert und für diese nun mal haften muss. Vor Gericht wird sowas aber halt nicht durchgehen und die bisherigen Ausflüchte mit "wir zeigen nur Ergebnisse an", greift hier auch nicht, weil das Zeug ja nicht nur Links sind sondern selbst generiert/erstellt.

Wahrscheinlich wäre es billiger, wenn man jetzt schon einlenkt und sich mal mit Juristen der Kritiker-Ecke zusammensetzt um Lösungen für das Problem zu erarbeiten. Aber dass würde die Blase ja schädigen und die geplanten waren glaube 87 Mrd. Einnahmen aus weiteren Aktien-Veräußerungen gefährden... Also Double-Down und weiter pumpen!

 

[Apocalypse]

Wenn also wo steht, Hans hat Lisa sexuall genötigt - dann darf jeder dieses zitieren.

Da wäre ich vorsichtig wie du das zitierst, weil klar, zitieren darf man, Verleumdungen einfach weiterverbreiten, weil die jemand anders von sich gegeben hat, das darfst du halt dann trotzdem nicht.

 

[Alphanerd]

Einerseits gut die Anbieter haftbar zu halten

Allerdings ist das LG München wohl Deutschlands wildestes Gericht. Hamburg kommt da noch mit.

 

[Stanzlinger]

Da wäre ich vorsichtig wie du das zitierst, weil klar, zitieren darf man, Verleumdungen einfach weiterverbreiten, weil die jemand anders von sich gegeben hat, das darfst du halt dann trotzdem nicht.

Man darf ja immer sagen "Hans hat Lisa sexuall genötigt" - so steht es auf Webseite XYZ. Dann hat man die Quelle beannt, nichts unwahres behauptet und die Tatsache benannt, das es dort steht. Hilft dem Hans am Ende halt auch wenig, kann er nichts gegen machen - außer Betreiber von XYZ zu verklagen

 

[Alphanerd]

und so landen am Ende 100 Warnhinweise auf Kaffeebechern.

Achtung Kaffee ist heiß... Ja ach nee. Ist ja auch Kaffee

Was sind denn die 100 Warnhinweise? Ich mache meinen immer zu Hause und bin neugierig.

Ja, bei uns ist Kaffee heiß. In den USA aber zB eine kalte flüssige Süßspeise mit einem Hauch von Kaffeearoma.

 

[Otsy]

Alle Daumen hoch.

Jetzt noch ein Grundsatzurteil auf europäischer Ebene, und fertig ist die Laube.

 

[BDR529]

Na endlich, nun wird es spannend... wie lange die Blase noch benötigt um zu platzen.

Es wird ebenfalls spannend... wie lange es noch benötigt, bis solche nervigen und immer wiederkehrenden, eintönigen und einfallslosen Kommentare endlich nicht mehr geposted werden.

Ich frag mich ja ob es nicht irgendwann mal langweilig wird, wenn man unter jeder KI News den gleichen sinnlosen Kram schreibt, um Likes zu generieren... oder was soll bitte der Sinn sein? Ich verstehe es nicht.

 

[Stöf]

Vollkasko-Mentalität

Bin ja oft und gern ein Hater des Deutschseins, aber was genau hat Vollkasko mit Falschaussagen zu tun?