News KI-Halluzinationen: Google haftet, wenn der AI Overview Falsches behauptet

Beelzebot schrieb:
Gegenfrage: Betreiben Anthropic und OpenAI eigene Suchmaschinen?
Spoiler: Die Antwort ist für beide Fragen identisch.
Wenn der AI Overview Antworten generiert, ist Google kein neutraler Vermittler von Informationen mehr. Aussagen werden mit der KI-Technologie des Unternehmens erzeugt
Wenn ich mir das so durchlese, dann steht für mich, ohne jetzt den genauen Text vom Gericht halt zu kennen, eigentlich schon, dass auch Antropic und OpenAI haften müßten. Jede KI erzeugt Antworten und vermittelt nicht neutral Informationen.
 
  • Gefällt mir
Reaktionen: Kitsune-Senpai und the_IT_Guy
Conqi schrieb:
Immer zu bedenken ist, dass Richter im Normalfall auch nicht ganz blöd sind. Wer eine KI absichtlich zu falschen Antworten drängt oder Kleber auf seine Pizza haut, der wird keinen Schadensersatz kriegen. Andersherum kann es nicht sein, dass Gemini in diesem Fall rufschädigende Falschaussagen zu einem Verlag raushaut und Google sagt: "schade, aber wir sind nicht Schuld". Ja wer denn sonst?
Jetzt bejaht ein Gericht zunächst einmal eine grundsätzliche Haftbarkeit, die über den Umfang von Suchmaschinenfehlern hinausgeht. Dass dadurch das Geschäft der Dienste als solches gefährdet wird, sehe ich jetzt nicht. Je nach Art und Umfang des Einzelfalles wird man dann halt vor Gericht streiten müssen, wie halt immer eigentlich.

Was sich für uns als Enduser ändert, wird man sehen. Ich tippe nach wie vor auf schärfere Disclaimer oder eine Zustimmung vor Nutzung ähnlich AGBs. Eventuell zusammen mit Accountzwang, das wird eh grad modern.
 
  • Gefällt mir
Reaktionen: Conqi
ev4x schrieb:
Ich würde wenn ich Google wäre einfach einen Hinweis ganz unten bei der KI Antwort machen das die Antwort Fehler enthalten kann und Google dafür nicht haftet dann dürften die Gerichte Machtlos sein.
Steht doch eh überall mittlerweile dabei
 
  • Gefällt mir
Reaktionen: mightyplow
Thematisch passend auch dieses hier: https://de.wikipedia.org/wiki/Betti...etzungen_um_Persönlichkeitsrechtsverletzungen
Vor 11 Jahren klagte die damalige (es ist kompliziert^^) Ehefrau unseres Bundespräsidenten gegen Google, weil Suchvorschläge mit ihrem Namen in der Autovervollständigung einen Bezug zu Tätigkeiten im Rotlichtmilieu herstellten.
Der Mechanismus aus dem heraus diese Vorschläge entstanden unterscheidet sich nicht grundsätzlich von dem Problem welches hier vorliegt, nachdem Google erst argumentierte, dass die Vorschläge aber automatisch entstehen wurden sie später dann von Google entfernt.
Google und Bettina Wulff einigten sich schließlich außergerichtlich.
 
  • Gefällt mir
Reaktionen: the_IT_Guy und iron_monkey
einerseits versändlich, andererseits was ist die konsequenz daraus? sämtliche ki tilgen, denn eine fehlerfreiheit wird da keiner garantieren können??
was wenn die faslschen aussagen daher kommen dass die ki schon mit falschen inhalten gefüttert wurde - gerade wenn die zusammenfassungen auf websuchen basieren und unter diesen ist auch murks...?
 
Auch falls man das Urteil nicht mag, es macht logisch Sinn.

Googles Suche früher hat Ausschnitte wörtlich eingeblendet.
Die KI heute gibt eigenständige Antworten, keine Zitate.
Das ist etwas völlig anderes.
 
  • Gefällt mir
Reaktionen: Bigeagle, NoNameNoHonor, saintsimon und 3 andere
cypeak schrieb:
einerseits versändlich, andererseits was ist die konsequenz daraus?
Noch nicht klar. Die Haftungsfrage wird hier immer zu Lasten der "KI" Anbieter ausfallen, da sie hier eben kein "Telefonbuch" und daher muss sich wirklich erst mal zeigen, was genau und in Welchem Umfang hier Konsequenzen sein werden.

Der Disclaimer zu den Antworten steht halt bisher nicht in jeder Antwort immer am Anfang oder am Ende und die AGBs muss man auch nicht immer lesen/bestätigen, so dass die Konsequenz oder Lösung später immer noch sein könnte, jede Antwort muss immer den Disclaimer zeigen und muss immer auf die AGBs hinweisen.

Oder aber man muss immer einen Account haben, mit dem man die AGBs bestätigen muss oder man muss einen Haftungs-Ausschuss in den AGBs unterzeichnen oder oder oder.

Letztlich ist dass hier auch alles "Uncharted Territory": bisher hatten wir noch keine Tools die massenhaft Inhalte anderer verwerten oder umschreiben, so dass bisherige Begründungen für Social Media Plattformen und Suchmaschinen hier alle nicht greifen.
 
iSight2TheBlind schrieb:
Als wäre nicht völlig klar, dass die Chatbots gerade die klassischen Suchmaschinen ablösen, weil alle zu faul sind in einer Liste von Links nach den gesuchten Informationen zu suchen - wenn man stattdessen vom Chatbot auch gleich die "Antwort" angezeigt bekommen kann...

Und trotzdem haben weder OpenAI noch Anthropic den gleichen öffentlichen Stellenwert wie die Google-Suche. Die ist weiterhin Anlaufstelle Nr.1 um sich durchs Internet zu bewegen, bei einer breiten Öffentlichkeit (Frag nur mal deine Umgebung). Die Google Suche ist ein etabliertes Werkzeug, welches um KI-Funktionen erweitert wird, und durch ihre hohe Verbreitung eben ein hohes Maß an Verantwortung hat. Chtabots sind hingegen Textgeneratoren, die inzwischen auch aufs Internet zugreifen können, keine Suchmaschinen für das Internet im eigentlichen Sinne. Die Qualität in der Beurteilung ist daher eine ganz andere: Ohne Google-Suche wäre das Internet für einen Großteil der Öffentlichkeit tot. Verschwinden die Chatbots und Agenten hingegen über Nacht, tangiert das den Mainstream in seinem use case kaum.
Darum bin ich der Meinung, dass das erstmal nur Google betrifft.
 
Ich finde das Urteil nachvollziehbar und es ist logisch, dass wenn da jemand Inhalte liefert, er für diese auch haften muss.

Ich habe übrigens auch nichts dagegen, wenn in Zukunft dann die AI, namentlich das Modell, mit der gesamten Infrastruktur dahinter haftet. Wäre doch ganz nett, wenn in Falle von Beihilfe zum Mord, Betrugsversuch, Spionage, Geheimnisverrat, Bedrohung der Nationalen Sicherheit, Copyright Verletzungen etc pp. Hardware in Milliardenwerten beschlagnahmt und außer Betrieb gesetzt wird bzw. diese Werte in Haftungsprozessen herangezogen werden.

Eventuell würde dies die Entwickler dazu bringen, mit etwas mehr Verantwortung durchs Leben zu ziehen und eventuell würden die CEOs mit ihren Aussagen auch etwas zurückhaltender vor die Medien treten.

Bis jetzt ist ja das Motto, wir lassen das auf die Menschheit los und die soll mal schauen, wie sie damit klarkommt. Wir haften für nichts.

Wenn ich durch den nachweislichen Mangel an einem Produkt oder eine bewusst mögliche Fehlnutzung, zu schaden komme, haftet ja der Hersteller in der Regel auch.

Insgesamt ist das ein Themenkomplex, der möglichst zeitnah, national und international, rechtlich geklärt werden muss. Wer haftet für autonom arbeitende Systeme, was ja solch KI Modelle einschließt.

PS Die Firmen wünschen sich doch eine Personifizierung und Vermenschlichung dieser Modelle, momentan natürlich nur zu ihrem Vorteil.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: hantolo, saintsimon und iron_monkey
SDJ schrieb:
Google hatte zuvor noch nie ein Problem damit, bestimmte Dienste in dem ein oder anderen Land einfach nicht anzubieten.
Genau, ich bin alt genug um mich an die Youtube vs. GEMA Auseinandersetzung zu erinnern und zur Zeit leide ich doch mehr als ich dachte unter der von der EU erzwungenen Entflechtung der Google Dienste wie z.B. Maps. Entsprechende gleichwertige Konkurrenz ist damit jedenfalls bisher nicht entstanden.
 
Mithrandil schrieb:
(Man könnte ja gar keine KI mehr nutzen, da man vorher nie weiss, welche Antworten generiert werden könnten).
korrekt. sollte man auch nicht.
Mithrandil schrieb:
1. die Gesellschaft muss lernen, dass KI keine 100% zuverlässigen Antworten liefert und kaum zugibt, wenn sie etwas nicht weiss sondern anfängt zu haluzinieren.
korrekt (eine AI weiss nichts, sie halluziniert immer, manchmal halt das richtige). deswegen sollte man für sowas auch keine AI heranziehen.

meine hoffnung, dass das bei google&co irgendwelche früchte tragen wird ist aber leider ziemlich gering.
 
  • Gefällt mir
Reaktionen: DiDi1948, the_IT_Guy, Spawn182 und eine weitere Person
Finde ich in Ordnung!

Blutomen schrieb:
Realität des Internets trifft auf deutsche Korinthenkacker mit Vollkasko-Mentalität und ständig erhobenen Zeigefinger.
Wenn dir ein Statiker sagt, jo alles in Ordnung, 6t kein Problem... und bei 5.99t passiert ein Unglück, muss er haften, wenn es kein Baupfusch war.
  • Wirtschaftsprüfer
  • Bankangestellte
  • Anwälte
  • Notare
  • Ärzte
uvm.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: hantolo, BOBderBAGGER, saintsimon und 5 andere
Conqi schrieb:
Und deine Lösung wäre? Niemand ist haftbar, wenn die KI falsche Hinweise zu Medikamenten oder sonst was ausspuckt und jemand dadurch Schaden nimmt?
ist ja schön und gut dass die Unternehmen zur Verantwortung gezogen werden, wo bleibt aber der "Hausverstand"?

Ich gehe hier von erwachsenen Menschen aus, wer Infos über Medikamente benötigt der fragt auch seinen Arzt der einem die Medikamente verschreibt, die Apotheke in der die Medikamente gekauft worden sind oder er/sie liest den Zettel in der Verpackung....

Erinnert ein wenig an die Lehrer und der "Andy84 Geschichte", die ihren Schulausflug anhand von User-Reviews auf Wanderplattformen geplant haben... war der Reviewer Schuld der die Tour als "wirklich schwierig ist hier nichts" beschrieben hat oder die Lehrer die die Tour einfach nicht wirklich geplant haben und so die Schüler gefährdet haben und die Schulklassen anschließend mit Helikoptern vom Berg runtergeholt werden mussten...

oder ist "KI" aktuell das neue "GPS"? einfach machen was die KI/GPS sagt...
 
Ah deshalb läuft Google heute so schleppend wir suchen nach den Fehlern!
 
  • Gefällt mir
Reaktionen: iron_monkey
AleksZ86 schrieb:
Ich gehe hier von erwachsenen Menschen aus, wer Infos über Medikamente benötigt der fragt auch seinen Arzt der einem die Medikamente verschreibt, die Apotheke in der die Medikamente gekauft worden sind oder er/sie liest den Zettel in der Verpackung....

Genau und die sind alle haftbar, wenn sie dir bewusst falsche Informationen geben.

Wenn eine KI, Google oder sonst wer nicht haftbar gemacht werden möchte, dann muss er eben sagen, dazu kann ich dir leider keine Auskunft geben und darf nicht über z.B. Medikament X eine Zusammenfassung erstellen, die Fehler enthalten können, sondern muss dann eben schreiben, bitte schauen sie auf der Seite des Herstellers nach und fragen sie ihren Arzt und oder Apotheker.

Aber das wollen die eben nicht, weil es die Allwissenheit der KI bzw. die Wette darauf, beschmutzen würde. Deshalb wird halt versucht was geht und die Grenzen ausgelotet. Dann muss man eben für die Überschreitungen auch haften, ist ja nicht so schwer zu verstehen.
Und genau dafür sind die Gerichte eben auch da, wenn sich die Entwickler selber nicht damit befassen wollen.

Letztendlich wird es eben dazu führen, dass es zu mehr und mehr Anfragen eben nur einen Standardhinweis gibt, weil es nicht anders geht. Daran geht die Menschheit definitiv nicht zu Grunde, nur ein paar Techbros verdienen am Ende etwas weniger Geld.

Und noch offensichtlicher, es wird sich herausstellen, dass eben KI Modelle für ziemlich viele Aufgaben dann doch ungeeignet sind oder speziell trainiert werden müssen. Vielleicht einigt man sich auch darauf, das "I" da wieder zu streichen, weil es Verpackungsschwindel ist.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: hantolo, BOBderBAGGER, saintsimon und 4 andere
Ich versuche mal ein Beispiel...


Ich habe ein Problem, und möchte es gelöst bekommen ohne selber zuviel Aufwand zu betreiben.

1. Ich nutze MI (Menschliche Intelligenz) und bezahle einen Anbieter im Netz, schreibe mein Problem nieder und seine 500 menschlichen Experten, in der Turnhalle, liefern mir nach 3min eine Antwort.

2. Ich nutze KI und bezahle einen Anbieter im Netz, schreibe mein Problem nieder und das Ki-Modell auf einem Server, liefert mir nach 3min eine Antwort.

In beiden fällen führt die Antwort dazu, dass mein Unternehmen in irgendweiner Weise finaziellen Schaden erleidet.

Nun kann ich also den Anbieter aus erstem Fall in Haftung nehmen ABER den Anbieter aus dem zweiten Fall nicht...

und die Begründung dafür soll dann sein, weil die sonst alle pleite gehen und neu ist immer gut...

eher, Dummheit und Arroganz schütz halt nicht vor Insolvenz oder dem Verlust der Investitionen, oder so...
 
  • Gefällt mir
Reaktionen: Der Puritaner, saintsimon, BlaBlam und 4 andere
@Kazuja

Ich handle nicht mit Aktien, aus Prinziep nicht, gibt deutlich einfachere Möglichkeiten für mich Geld zu verdienen.
 
  • Gefällt mir
Reaktionen: Der Puritaner
Zurück
Oben