News KI-Halluzinationen: Google haftet, wenn der AI Overview Falsches behauptet

[GenK]

und so landen am Ende 100 Warnhinweise auf Kaffeebechern.

Achtung Kaffee ist heiß... Ja ach nee. Ist ja auch Kaffee

 

[stevefrogs]

IMHO richtiges Urteil, weil ich bereits jetzt sehe dass sich viele Leute auf diese KI-Zusammenfassungen verlassen.
Hat das Urteil auch gültigkeit für Anthropic oder OpenAI?

Es ist kein Urteil, sondern eine einstweilige Verfügung, steht auch so im Text. Damit erübrigt sich natürlich auch die Frage, ob es für andere Anbieter gilt. Sollte das Urteil auch dahingehend ausfallen und durch den zu erwartenden Instanzenzug bestand halten, hätte das natürlich Auswirkungen auf alle, da klargestellt wäre, dass das Haftungsprivileg bei KI-generierten Zusammenfassungen nicht greift, zumindest im Kontext einer Websuche.

In den meisten Klagepunkten bekamen die Kläger laut dem Decoder-Bericht Recht. Google muss daher 80 Prozent der Kosten tragen, die Kläger 10 Prozent.

Wurde der Satz von der Google-Suche-KI geschrieben?

 

[iron_monkey]

Als hätte das einen Effekt auf den Markt. Im Zweifel wird AI Overview für Deutschland entfernt.

Interessant ist noch: Laut dem Urteil ist die einstweilige Verfügung nicht auf das Gebiet der Bundesrepublik Deutschland beschränkt, sondern gilt international. (Quelle: nach oben scrollen)

?

 

[12nebur27]

@Simonsworld wir werden sehen. Außerdem ändern sich ja auchbdie Politiker auf beiden Seiten und wir haben anders als in den USA kein Case Law. Wenn also andere Gerichte (und auch noch höhere Gerichte) mit der Auslegung mitgehen wird es zweifelsohne sehr sehr teuer werden.

 

[milliardo]

Und deine Lösung wäre? Niemand ist haftbar, wenn die KI falsche Hinweise zu Medikamenten oder sonst was ausspuckt und jemand dadurch Schaden nimmt?

Softwarehersteller müssen eh schon viel zu wenig geradestehen für das, was sie da gerne auf den Markt werfen. Dass einem Google jetzt ungewollt automatische Antworten gibt, aber sagt, für den Inhalt ist niemand verantwortlich, ist ein Unding.

Da muss halt der gute alte Disclaimer noch viel prominenter werden: Ich bin eine KI und eventuell enthält meine Aussage Fehler. Bitte kontaktieren Sie im Zweifel schriftlich oder zur Niederschrift ihren deutschen Expert/in mit TüV-Siegel, gültigem Bewilligungsbescheid, fünffach ministerial beglaubigter Berufsurkunde und drölfzig Zertifizierungen nach DIN EN ISO.

Wer einen Service nutzt, der einem das Internet, inclusive allerlei Nischenforen, Witz- und Meme-Sites etc. "deppengerecht" aufbereitet [edit: aufbereiten soll], muss auch damit rechnen, dass Fehler passieren. Das allgemeine Lebensrisiko endet nicht vor dem Bildschirm, das gibt es auch Online. Offensichtlich lebensgefährliche Antworten dürfen natürlich nicht rauskommen. In diese Richtung gelesen ist das Urteil absolut in Ordnung.

 

[Mithrandil]

Ich sehe die Reaktion der Gerichte zwar einerseits als verständlich, aber auch als etwas übertrieben an. (Man könnte ja gar keine KI mehr nutzen, da man vorher nie weiss, welche Antworten generiert werden könnten).
Aber...
1. die Gesellschaft muss lernen, dass KI keine 100% zuverlässigen Antworten liefert und kaum zugibt, wenn sie etwas nicht weiss sondern anfängt zu haluzinieren.
2. Sollte bei KI generierten Informationen darauf hingewiesen werden, woher sie stammen. Auch Videos und Bilder. (Sonst macht Punkt 1 keinen Sinn, wenn es nicht klar ersichtlich ist)

 

[DonDonat]

Als hätte das einen Effekt auf den Markt.

Schon mal was von Signalwirkung im EU Markt gehört?
Wollen wir mal ein paar Jahre zurück gehen, wie die USB-C Pflicht angefangen hat als Beispiel?
Ansonsten steht wie im Artikel beschrieben auch, dass die Verfügung nicht nur DE betrifft.

Im Zweifel wird AI Overview für Deutschland entfernt.

Und dann kommt Frankreich, Spanien, Italien... Kurz darauf Kalifornien, China, Japan...

Aktuell gibt es zu genau diesem Thema XXX Fälle in quasi allen Ländern und du darfst mehr als sicher sein, dass die Ergebnisse überall ähnlich ausfallen werden weil die Verantwortung hier nun mal zu 100% beim "KI" Anbieter liegt. Bisherige Haftungs-Ausschluss Modelle greifen hier einfach nicht und dass ist schon seit Anfang an bekannt.

Google hatte zuvor noch nie ein Problem damit, bestimmte Dienste in dem ein oder anderen Land einfach nicht anzubieten.

Richtig, womit Google & Co. aber ein Problem haben werden, wenn wie oben beschrieben die EU als ganzes wegfällt und wie zu erwarten alle anderen Märkte folgen.

Ähnlich sieht es aktuell ja beim Copy-Right aus: es gibt XXX Fälle in quasi allen Ländern gegen "KI" Anbieter und bisher waren fast alle davon in den ersten Instanzen nicht gut für die "KI" Anbieter, so dass wir hier einen weiteren Faktor haben, der das Geschäftsmodell langfristig zum scheitern bringen könnte (Stichwort, Lizenzkosten).

Generell merkt man an "KI" ziemlich gut, dass "Move fast and break things" nicht funktioniert, wenn man schon Grundlagen-Probleme der Technik nicht angeht bevor es groß ausgerollt wird.
Dass wird "KI" nicht beenden oder die Blase von jetzt auf gleich platzen lassen, aber die Gesetze hier sind Probleme, die weder Agent Orange, noch Altman & Co. mit ein paar Platituden beseitigen können.

Um aber zum Verantwortungs-Theme zurückzukommen: diese Frage ist wirklich wichtig, da die Technik so viele potenziell gefährliche Facetten hat. Bereits eingetreten ist ja, dass "KI" Leuten zum Selbstmord geraten hat und aktuell sieht es danach aus, dass die ersten Opfer dort wohl die Prozesse gewinnen werden, was die Haftungsfrage noch mal schwieriger macht weil hier das Wohl der Nutzer ja direkt dran hängt (aber natürlich auch indirekt z.B. über Finanzielle Beratung).

Wie die Lösung dafür am Ende aber aussehen wird, muss sich natürlich noch zeigen. Komplett ohne Wertung hier wäre z.B. denkbar dass jede "KI" Ausgabe einen Disclaimer am Ende hat. Dieser könnte juristisch schon reichen um alle zukünftigen Probleme zumindest was Haftung angeht zu vermeiden.

Ob so eine Lösung aber gut ist oder was die Vor- und Nachteile sind, lässt sich Mangels Studien-Lage zum Thema (zumindest meines Wissens nach, gerne korrigieren wenn es bereits welche gibt) aber noch gar nicht sagen.

 

[ev4x]

Ich würde wenn ich Google wäre einfach einen Hinweis ganz unten bei der KI Antwort machen das die Antwort Fehler enthalten kann und Google dafür nicht haftet dann dürften die Gerichte Machtlos sein.

 

[Erkekjetter]

Wurde der Satz von der Google-Suche-KI geschrieben?

Die Streitparteien mussten nicht 100% der Kosten tragen?

Google dafür nicht haftet dann dürften die Gerichte Machtlos sein.

Du hast so gar nicht verstanden wie die Richter das begründet haben. Kurz: Nein, deine "Lösung" funktioniert so nicht und die Gerichte hätten weiterhin die Möglichkeit, diese Praxis abzumahnen und/oder zu unterbinden.

 

[12nebur27]

@ev4x Haben sie schon. Und trotzdem kommt diese Verfügung. Ich gehe also davon aus, dass das nicht ausreicht.

 

[Jakop]

Erst kürzlich hat von der Leyen eine Milliardenstrafe gegen Google gestoppt

evtl gabs ja ein neues Pony...

 

[Conqi]

"deppengerecht" aufbereitet

Nicht sehr deppengerecht, wenn die Aussage falsch ist, oder?

Ein allgemeines Lebensrisiko muss es auch Online geben.

Da stimme ich zu. Man kann natürlich nicht alles verhindern und etwas selber denken gehört immer dazu, aber: Wenn ich ein Produkt anbiete, den Leuten sogar ungefragt aufzwinge und bis zu 220€ im Monat für das dickste Abo verlange, muss am Ende irgendwer dafür gerade stehen, wenn dabei gefährliche oder anderweitig schädigende Antworten rauskommen.

Immer zu bedenken ist, dass Richter im Normalfall auch nicht ganz blöd sind. Wer eine KI absichtlich zu falschen Antworten drängt oder Kleber auf seine Pizza haut, der wird keinen Schadensersatz kriegen. Andersherum kann es nicht sein, dass Gemini in diesem Fall rufschädigende Falschaussagen zu einem Verlag raushaut und Google sagt: "schade, aber wir sind nicht Schuld". Ja wer denn sonst?

 

[ev4x]

Haben sie schon. Und trotzdem kommt diese Verfügung. Ich gehe also davon aus, dass das nicht ausreicht.

Dann müssen sie die KI Antworten halt als Opt In machen mit Kontozwang und AGB Zustimmung.

 

[iSight2TheBlind]

Gegenfrage: Betreiben Anthropic und OpenAI eigene Suchmaschinen?

Als wäre nicht völlig klar, dass die Chatbots gerade die klassischen Suchmaschinen ablösen, weil alle zu faul sind in einer Liste von Links nach den gesuchten Informationen zu suchen - wenn man stattdessen vom Chatbot auch gleich die "Antwort" angezeigt bekommen kann...

Die AI-Kurzzusammenfassung von Google gibt es ja gerade weil die Chatbots dabei sind ihnen die Butter vom Brot zu nehmen!

 

[stevefrogs]

@Erkekjetter Ich bin zwar nicht mit den Begebenheiten in Deutschland vertraut, kann mir aber nur schwer vorstellen, dass die Justiz, und demnach der Staat, einfach sagt: "ach was, das geht aufs Haus!". Ganz im Gegenteil, der Staat tut eigentlich immer sein Bestes, dass er nicht auf Kosten sitzen bleibt, wenn er nicht unbedingt muss.

Die korrekte Antwort findet sich übrigens im verlinkten Decoder-Artikel: Da ja zwei Verlage als Kläger aufgetreten sind, tragen sie JE 10% der Kosten, ggü den 80% von Google, damit stimmt die Rechnung natürlich wieder.

Womit wir wieder bei der Frage wären, ob es ein Flüchtigkeitsfehler des Redakteurs war auf das "je" zu vergessen, oder die Google-KI bei der Zusammenfassung geholfen hat.

 

[Himbeerdone]

Das wird denke ich auf Umformulierungen hinauslaufen.
Die KI wird mehr zitieren und mehr evtl., unter Umständen, laut XYZ, kann sein, möglicherweise........
Zudem wird ein Konto Pflicht, mit dessen Nutzung der Anbieter von allem befreit wird. Auch wird es bei jeder Antwort einen Warnhinweis geben.

Wie will man das sonst auch rechtssicher betreiben? Gerade bei Themen mit sehr wenigen Quellen, die dann auch noch von X- beliebigen Privatpersonen kommen wird es da schwierig.

In diesem Forum ist auch ein nicht unerheblichter Anteil an (teilweise) falschen Angaben oder verfälschten Meinungen in Beiträgen.

 

[12nebur27]

@ev4x korrekt, aber damit ist dann der AI Overview tot.
Edit: und ich bin mir nicht sicher, dass sie mit AGBs wirklich alles abgewiegelt bekommen.
Da können wir das Thema KI und Kinder direkt mal aufmachen. Und die werden Google et al. höchst ungerne als Kundschaft verlieren

 

[Bigeagle]

Mal konsequent würde ich sagen. Spätestens wenn die KI politiker als '1pimmel' bezeichnet marschiert doch sowieso die Polizei ins RZ ein. scnr >.>
Zumal Falschbehauptungen in richtung Verleumdung, Rufschädigung etc eine ganz andere Schwelle haben als neutrale Fehler über Pizzarezepte. Die Regel 'wenn man jemanden mit genug Scheiße bewirft bleibt immer auch etwas hängen' gilt gerade bei der ersten Spalte von Suchergebnissen.

Alternativ könnte jeder einfach eine KI trainieren seine defamierenden Behauptungen zu produzieren und online zu stellen. Mit agentic AI sollte doch das automatische produzieren und hochladen von Youtube Videos funktionieren.

Achtung Kaffee der Inhalt ist könnte heiß sein

fixed that for you
fand das gerade nirgendwo anders, aber das triffts wohl bei manchen ... gastronomieeinrichtungen auch ganz gut

 

[silentdragon95]

Das kommt halt dabei raus, wenn man ein auf Geschwindigkeit optimiertes Modell nimmt, dass aus Internetquellen direkte Antworten auf Fragen generieren soll. Hat schon einen Grund, weshalb man z.B. bei OpenAI im "Thinking"-Modus auch gut und gerne mal eine halbe Minute oder länger auf Antworten warten kann, während das LLM Webquellen durchsucht. Ich sage nicht, dass es dadurch gar keine Fehler mehr machen kann, aber die Fehlerquote sollte deutlich geringer sein, weil eben nicht ein einzelner Reddit-Kommentar als Fakt angenommen wird.

Für das offene Web wäre das auf jeden Fall positiv, wenn damit der AI-Overview für einfache Anfragen wieder stirbt.

 

[Sahneknuffi]

Wäre ja noch schöner, wenn Unternehmen sich mit der Begründung "Das war die KI." aus der Verantwortung stehlen könnten.