News KI-Halluzinationen: Google haftet, wenn der AI Overview Falsches behauptet

[Beelzebot]

Dummheit und Arroganz

Das unterstellst du den KI-Entwicklern? Hast du mal deinen eigenen Beitrag gelesen? ....

 

[knoxxi]

Händler haften übrigens auch dafür, wenn ihre KI Mumpitz erzählt

https://ohn.haendlerbund.de/recht/urteile-entscheidungen/haftung-chatbots

 

[Hagen_67]

Realität des Internets trifft auf deutsche Korinthenkacker mit Vollkasko-Mentalität und ständig erhobenen Zeigefinger.

Sorry, sehe ich vollkommen anders. Als Anbieter habe ich die Verantwortung für die Richtigkeit der Inhalte, die ich online stelle. Unsbhängig davon, wie ich diese Inhalte generiere.

 

[Bright0001]

Googles Argumentation ist aber auch hirnrissig: Wenn ich jedes Mal prüfen muss, ob die generierte Antwort korrekt ist, was genau bringt mir dann bitte diese Zusammenfassung? Effektiv lese ich so ja mehr, und habe auch noch einen höheren cognitive load als vorher.

Wäre auch Mumpitz, wenn Google da nicht haftet: Wer haftet denn sonst, wenn nicht der Entwickler und Nutzer eines KI-Modells?

Welches ungefragt eingeschaltet ist, nur nebenbei angemerkt.

 

[Elderian]

Wenn eine KI, Google oder sonst wer nicht haftbar gemacht werden möchte, dann muss er eben sagen, dazu kann ich dir leider keine Auskunft geben und darf nicht über z.B. Medikament X eine Zusammenfassung erstellen, die Fehler enthalten können, sondern muss dann eben schreiben, bitte schauen sie auf der Seite des Herstellers nach und fragen sie ihren Arzt und oder Apotheker.

Genau das!
Die aktuellen Modelle wurden eben dergestalt trainiert, dass irgend eine Antwort immer besser ist als keine, sprich: Lieber halluzinieren als zuzugeben, es nicht zu wissen.

Man Stelle sich das in der Schule vor...

 

[Xyltin]

Realität des Internets trifft auf deutsche Korinthenkacker mit Vollkasko-Mentalität und ständig erhobenen Zeigefinger.

Darum geht es nicht.
KI-Unternehmen sagen auf der einen Seite sie kopieren nicht sondern lernen und generieren, daher gilt kein Copyright und sie können alles verwenden wir sie wollen ohne zu zahlen. Aber gleichzeitig behaupten sie, sie generieren ja nichts und kopieren blos und plapper nach, daher sind sie nicht haftbar.

Besides gleichzeitig ergibt keinen Sinn.

 

[gartenriese]

Ich kann nur hoffen dass da was draus wird.

 

[Piak]

Und deine Lösung wäre?

Die Domain ist google.de , Alphabet ist Besitzer der Domain und darf da schreiben was sie wollen. Niemand ist gezwungen dass zu lesen.

Spiegel-Online und viele andere Medien schreiben ja häufig auch irgendwelche Bullshit berichte, die sich nicht auf Tatsächen stützen sondern Vermutungen.

Die Internetseiten der Flacherdler werden ja auch nicht verklagt, oder ?

 

[Luthredon]

und so landen am Ende 100 Warnhinweise auf Kaffeebechern.

Achtung Kaffee ist heiß... Ja ach nee. Ist ja auch Kaffee

Nein, hat damit rein gar nichts zu tun. Und falls du noch an weitere 'Oldies but Goodies' denkst, mit der Katze in der Mikrowelle hat es auch nichts zu tun.

Es ist eigentlich eine Armutszeugnis für die Zivilgesellschaft, dass so ein Urteil überhaupt nötig ist. Jeder muss eigentlich schon lange die Verantwortung für sein Handeln übernehmen. Natürlich gilt das auch für die größten Konzerne - zumindest sollte es so sein. Im Fall AI ist es aber noch ein Stück absurder, weil Google und andere ja von Anfang an darauf bestehen möchten, für das 'Geschöpf AI' gar nicht verantwortlich sein zu können! Ja sorry, dann könnt ihr es halt nicht in die Welt setzen.
"Herr Richter, ja klar hab ich die Hunde gezüchtet und großgezogen, aber es sind eben Geschöpfe mit eigenem Willen. Ich kann da nichts dafür, dass sie nun den Nachbarn beißen ..."

Es ist definitiv ein Schritt in die richtige Richtung. Ich bin auf die Durchsetzung gespannt.

 

[MaverickM]

deutsche Korinthenkacker

Und was genau hat das mit "Korinthenkacken" zu tun, wenn die KI halluziniert und so den Ruf einer Firma (Oder auch Privatperson) nachhaltig schädigt?

 

[Spriti]

Das wird dann der neue "Cookie Banner" "KI-Antwort kann Fehler enthalten".

Interessiert im Endeffekt keinen Menschen, wird uns alle aber wieder über Jahre nerven.

 

[Gamefaq]

Hat das Urteil auch gültigkeit für Anthropic oder OpenAI?

Gegenfrage: Betreiben Anthropic und OpenAI eigene Suchmaschinen?
Spoiler: Die Antwort ist für beide Fragen identisch.

@Beelzebot Dises Urteil hat nichts mit Suchmaschinen zu tun! DAS ist ja das prekäre an diesem Urteil!
Es geht explizit um KI Antworten und das man die Quellen die die KI dafür nutzt eben NICHT verifizieren kann weil viele gegenüber den Ergebnissen der Suchmaschinen im Vergleich NICHT angezeigt werden und man sich fragt wo holt die KI diese "Falsch" Information her.
Wird dieses Urteil mit INTERNATINALER HAFTBARKEIT Rechtsverbindlich dann wird es auch alle anderen KI Anbieter in Deutschland betreffen.

Das die KI oft und gerne Bullshit verbreitet ist mir schon mehrmals aufgefallen.

Als Beispielsweise Sacred Remaster kurz vor der Veröffentlichung war hatte ich eine Diskussionen in meinem Teamspeak3 Server mit einem Freund darüber welche Charakterklassen er damals gerne in Teil 1 bzw. 2 gespielt hatte und er sich nun freut die "Vampirin" im Zweiten Teil wieder zu spielen. Als ich ihm sagte das es sie nur in Teil 1 gibt sagte er das stimmt nicht und berief sich auf Googles KI Antwort (die er fix im Hintergrund gesucht hatte) weil sie das erste Ergebnis war.
Und wollte das nicht mal glauben als ich sagte das stimmt nicht und er solle nicht Blind den Googles KI Antworten glauben! (mittlerweile ist das KI Ergebnis korrekt)

Denn das Problem das ihn in dem Moment jedoch zusätzlich glauben lies er sei im Recht war das er sagte hey ICH nutze nicht Google Chrome sondern Mozilla Firefox. Das sei keine Antwort von Google!

Also musste ich ihn erstmal darüber aufklären das die Suchmaschine bei Firefox Standardmäßig Google sei weil Google Mozilla dafür explizit bezahlt und dieses "Suchanfrage Antwort Fenster im Fenster" wie bei Chrome identisch sei und Google dort die KI Antwort selber prominennt an Erster Stelle platziert unabhängig wie du Mozilla Firefox sonst zum Thema KI konfiguriert hast! Denn das war wiederum direkt seine nächste Antwort das er den "KI Scheiß" in Mozilla deaktiviert hat!!!1111einseinseins....

Ich hatte also eine Sinnlos Diskussion mit ihm nur weil die KI etwas falsches behauptet hat.

Hier aber in dem Fall liegt eine Massive Rufschädigung durch die KI Antworten für die klagende Firma vor die Ihre Existenz gefährdet und die KI Firma dahinter möchte es als Nichtigkeit abtun das sie jedem nur Falschinformationen zu deiner Firma gibt.

 

[Zensored]

Softwarehersteller müssen eh schon viel zu wenig geradestehen für das, was sie da gerne auf den Markt werfen.

Die EU-Produkthaftungsrichtlinie 2024/2853 sagt was anderes...
gilt ab dem 09.12.2026
Man haftet für Software Fehler.

https://www.ihk.de/wiesbaden/recht/rechtsberatung/produkthaftungsrecht-6774582

 

[Hamburg]

Heute meinte die Google KI das Callsign Rage2 (auf Flightradar24 gesehen) eines Luftwaffe Tornados komme aus einer Kooperation anlässlich des Shooters Rage 2 und jener Tornado hätte eine entsprechende Sonderlackierung, um das Spiel zu bewerben.

 

[Zhenwu]

Haften eigentlich auch Zeitungsverlage, wenn Sie falsches verbreiten?

 

[Conqi]

Die Domain ist google.de , Alphabet ist Besitzer der Domain und darf da schreiben was sie wollen. Niemand ist gezwungen dass zu lesen.

Ok, also wenn Google in ihrer AI Overview schreibt "Piak ist ein gesuchter Drogenhändler und Terrorist", lautet deine Reaktion darauf, dass man das ja nicht lesen muss? Merkwürdiges Rechtsverständnis wie ich finde.

Viele scheinen nicht zu verstehen, warum hier eigentlich geklagt wurde. Nicht weil irgendwer ohne nachzudenken einen Tipp der KI befolgt hat und dabei sein Haus abgebrannt hat.

 

[Nowareeng]

Im Radio (Ö1) wurde gerade erzählt dass Musk es so einrichten konnt dass Gelder von zB: Rentenfonds , die in NASDAQ investiert werden direkt in SPACEX gehn.....hab das dazu gefunden.....wenn dass so stimmt , möcht gar nicht wissen was da sonst noch so läuft (AL finanzierung)..........die zeigen halt wies geht , mal so richtig reich und mächtig zu sein - oder werden je nach Betrachtungswinkel.....💪👍 könnte einem fast.angst.und.bange.werden.

Wenn auch hier die Gerichte wieder den Schwanz einziehen sind wir offiziell verkauft und verraten an die US Tec lobby....

Jeder soll u. muss für den Schaden haften den er verursacht . Je grösser die Reichweite - je grösser die Verantwortung

 

[scryed]

Spoiler: Die Antwort ist für beide Fragen identisch.

Also ja?

Jedenfalls im weitesten Sinne, frage ich egal welchen ki bot was gibt es ein Ergebnis ergo Suchmaschine oder?..... Und wenn die auf falsche Daten zugreifen sind die ki bots eben das Problem weil sie falsch nachplappern.... Und das mit geklauten Daten...

Edit

Will damit sagen jegliche ki sollte eines auf dem Deckel bekommen wenn es falsche Info verbreitet und je nach schwerwiegend auch schwerer bestraft werden nicht nur Google.... Wenn sie damit Geld machen wollen sollen sie damit auch haften

 

[Raul99]

Haften eigentlich auch Zeitungsverlage, wenn Sie falsches verbreiten?

Ja. Sogar die Schüler Zeitung. Deswegen wird auch schon lange gefordert das die sozialen Medien haftbar gemacht werden sollen für den Inhalt der dort gepostet wird.

 

[Brrr]

@Nowareeng Ja das läuft über die Index ETFs. Die Regeln wurden angepasst, dass SpaceX von anfang in dem Index vertreten ist und somit alle S&P500 Index ETFs und glaube auch MSCI World Index ETFs SpaceX automatisch mit drin haben. Vorher gab es da eine gewisse Wartefrist ab Börseneintritt.