News Klage gegen OpenAI: ChatGPT Health löst lebens­be­drohliche Situation aus

mischaef

Kassettenkind
Teammitglied
Registriert
Aug. 2012
Beiträge
8.250
  • Gefällt mir
Reaktionen: CeeSA, Cpt.Willard, MaverickM und 10 andere
Die US-Amerikaner sind wirklich ein sehr spezielles Volk 🤦‍♂️
 
  • Gefällt mir
Reaktionen: Unioner86, wolve666, shaggy86 und 63 andere
Die KI treibt die Verdummung immer nur schneller voran.
 
  • Gefällt mir
Reaktionen: wolve666, shaggy86, devanet und 56 andere
Stattdessen habe ChatGPT unter anderem erklärt, er solle darauf vertrauen, dass „Gott deinen Körper nicht dazu geschaffen hat, unaufhörlich zu versagen“.
Hier der Beweis, dass dir KI nur das erzählt was du auch hören möchtest.
 
  • Gefällt mir
Reaktionen: wolve666, shaggy86, Fritzler und 71 andere
Ein schwieriges Thema. Menschliche Ärzte machen ebenfalls Fehler und die Hürden, um die dafür zu verklagen, sind (zurecht wie ich finde) relativ hoch. Außerdem sollte jeder selbst wissen, dass ein LLM keine abschließende Instanz für komplexe Themen wie Gesundheit ist.

Auf der anderen Seite vermarkten die Firmen wie im Artikel erwähnt zunehmend Gesundheits-Produkte und stehen nicht klar dazu, wie viel Mist ihre Chatbots immer noch verzapfen. Irgendwo haftbar müssen sie für Dinge, die sie verkaufen, ja schon sein. Aber hey, steht ja irgendwas in den Nutzungsbedingungen, die keiner liest.

Ich schwanke persönlich daher noch zwischen "selber Schuld" und "selber Schuld, aber KI-Anbieter Strafen zahlen lassen ist trotzdem gut". ;)
 
  • Gefällt mir
Reaktionen: fullnewb, Boerkel, herrStreusalz und 4 andere
Wenn der laut eigenen Aussagen nicht auf die Familienmitglieder gehört hat weil ihm ChatGPT etwas gesagt hat, was er lieber hören wollte...

So sehr ich dafür bin, dass die Anbieter für Fehlverhalten der KI grade stehen müssen, sehe ich hier den Fehler ganz klar beim Anwender.
 
  • Gefällt mir
Reaktionen: vascos, Arboster, Cruentatus und 19 andere
1784798842295.png

this

Aber bei den Amis überrascht das nicht - da wirst du für alles verklagt.
 
  • Gefällt mir
Reaktionen: Misdemeanor, Gsonz, latexdoll und 3 andere
Ist einfach "Amerika" wie man es kennt. Letztendlich möchte der gute Mann einfach nur so viel Geld wie möglich abkassieren.

Wer ChatGPT für einen Arzt hält, hat dringend einen Arzt nötig.
 
  • Gefällt mir
Reaktionen: Misdemeanor, Hexenkessel, Gsonz und 10 andere
Hast du gesehen was Gott mir gerade angetan hat ? - Raoul Duke
 
  • Gefällt mir
Reaktionen: Hexenkessel, Krazee, robin631 und eine weitere Person
Bei sowas wird es sehr spannend, wie das Ganze rechtlich ausgehen wird: normal sind Internet-Plattformen ja von der Haftung teilweise ausgenommen, weil diese nicht wirklich alles was Nutzer auch anstellen können haften können. Bei Chat Bots sieht dass ganze aber rechtlich anders aus, da diese defacto keine Plattform ala YouTube, Twitter, Facebook & Co. sind.

Sicher werden die "KI" Anbieter hier versuchen, auch unter den Rahmen zu fallen, aber ob dass juristisch überhaupt tragbar ist, muss ich wirklich erst zeigen.

Ich persönlich würde hier auch keine Schätzung abgeben, wie sowas ausgehen wird, da es hier meines Wissens nach noch keine vorherige Rechtssprechung gibt.


Rein logisch aber sollten die Chat Bots anstatt Medizin Tipps zu geben immer direkt zu einem Arzt verlinken, eine Quelle zeigen die bestätigt korrekt ist oder den Notruf wählen, da diese Dinge alle wahrscheinlicher Leib und Leben wahren können als die Black-Box mit massiver Unsicherheit in den Ergebnissen.
 
  • Gefällt mir
Reaktionen: HolySkillet, Nobbi56 und derohneWolftanzt
DonDonat schrieb:
eine Quelle zeigen die bestätigt korrekt ist
Da fängt es mit der Schwierigkeit schon an...

Nicht nur ist das Netz voll von gefährlichem Halbwissen
Auch sind nicht alle Ärzte / Forscher einer Meinung und was letztes Jahr korrekt nach dem Stand der Wissenschaft war muss es heute nicht mehr sein
 
  • Gefällt mir
Reaktionen: HolySkillet, cbforum.scooter, Coenzym und 6 andere
Conqi schrieb:
Auf der anderen Seite vermarkten die Firmen wie im Artikel erwähnt zunehmend Gesundheits-Produkte und stehen nicht klar dazu, wie viel Mist ihre Chatbots immer noch verzapfen. Irgendwo haftbar müssen sie für Dinge, die sie verkaufen, ja schon sein. Aber hey, steht ja irgendwas in den Nutzungsbedingungen, die keiner liest.
Also so ein bisschen Hirn sollte man den Leuten als Konzern schon zumuten.

Wenn ich gesundheitliche Probleme habe, gehe ich zum Arzt, fertig. Klar kann man vorher auch googeln aber wenn ich mir wirklich sicher sein will, muss ich zum Arzt.

Bin immer gern beim Bashing großer Konzerne dabei aber hier liegt die Schuld ganz allein am User, ganz gleich was in den Nutzungsbedingungen steht.

Ich kann doch auch keinen Messerhersteller verklagen weil ich mich durch die falsche Nutzung des Messers geschnitten habe. Wo kämen wir denn da hin? Wobei, in den USA geht vermutlich auch das.
 
  • Gefällt mir
Reaktionen: TeaShirt, stevefrogs, latexdoll und 6 andere
"Ich hab seit Wochen leichte Kopfschmerzen!"

Google sagt: Du bist eigentlich schon so gut wie tot! Hier ein paar Bestattungsunternehmen in deiner Nähe..."

ChatGPT sagt: Gott hat einen Plan! Vertraue gefälligst darauf und höre nicht auf andere!

ChatGPT Health ist schon gut auf den gläubigen Ami zugeschnitten :D
 
  • Gefällt mir
Reaktionen: cbforum.scooter, Recharging, Alphanerd und 8 andere
Wie war das noch mit dem Trocknen von Haustieren in der Mikrowelle?
 
  • Gefällt mir
Reaktionen: fullnewb, derohneWolftanzt und herrStreusalz
dass entsprechende Fälle in den Nutzungsbedingungen von ChatGPT eindeutig geregelt seien

Und wie jeder weiß werden Nutzungsbedingungen immer akkurat gelesen und verstanden. 🧐

Natürlich werden die Leute KI fragen zu Gesundheitsthemen.
Vor KI wurde Google benutzt, jetzt eben KI, fühlt sich ja so an als schreibe/spreche ich mit einer Person. Und ist intelligent (heißt ja "Künstliche Intelligenz"), was kann schon schief gehen?

Wenn da nun eine individuell zusammengewürfelte Antwort kommt und aufgrund fehlendem Kontext oder Trainingsdaten unkluge Vorschläge gemacht werden und noch dazu neigt Honig ums Maul zu schmieren, und der Dienst "ChatGPT Health" genannt wird - nochmal, was könnte da möglicherweise schiefgehen?

Fairerweise müsste man den Chatverlauf sehen um das ganze neutral zu betrachten, wäre ja nicht das erste Mal das Themen überdramatisiert in die Welt posaunt werden. Ich hatte ChatGPT auch mal dazu gebracht, dass es keine Kritik geäußert hatte als ich schrieb ich schneide Frösche auf um zu schauen ob sie Trändendrüsen haben.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: HolySkillet, Hellyeah, herrStreusalz und eine weitere Person
Azeron schrieb:
Die US-Amerikaner sind wirklich ein sehr spezielles Volk
Die haben halt einen enormen Anreiz zu klagen. Da winken ja immer gleich mehrere Millionen.
 
  • Gefällt mir
Reaktionen: derohneWolftanzt, ThePlayer, herrStreusalz und eine weitere Person
Dort werde klar darauf hingewiesen, dass der Dienst nicht für medizinische Diagnosen oder Behandlungen vorgesehen sei.
Neue Dienste wie ChatGPT Health sollen es Nutzern ermöglichen, medizinische Unterlagen hochzuladen und Gesundheitsfragen mithilfe künstlicher Intelligenz beantworten zu lassen.

Ist das nicht dann irgendwie ein Widerspruch? Also aus meiner Sicht hätte OpenAI dann den Healthkram einfach nicht veröffentlichen dürfen.
 
  • Gefällt mir
Reaktionen: HolySkillet, CeeSA, cbforum.scooter und 12 andere
Den Chat inklusive Kontext von seinen anderen Chats würde mich mal interessieren.
Bei jeder Kleinigkeit hinsichtlich medizinischer Einschätzung verweist ChatGPT auf Mediziner. Warum sollte ChatGPT bei ihm eine komplett andere Ansicht haben.
Möglicherweise unterstelle ich dem Herrn, der AI bewusst Kontext gegeben zu haben Mediziner zu verabscheuen und nicht auf Familienmitglieder zu hören um diese Klage zu starten.
 
  • Gefällt mir
Reaktionen: groink19, derohneWolftanzt, Volvo480 und 8 andere
AMDFX schrieb:
Jetzt reichen Worthülsen aus um den Kopf aus der Schlinge zu ziehen?

Jeder Arzt, Handwerker, Mechaniker, Betrüger behauptet er kann Fehler machen und du sollst Informationen prüfen. Haftung ausgeschlossen.

Azeron schrieb:
Ich kann doch auch keinen Messerhersteller verklagen weil ich mich durch die falsche Nutzung des Messers geschnitten habe. Wo kämen wir denn da hin? Wobei, in den USA geht vermutlich auch das.
Gibt dir der Messerhersteller aktiv Ratschläge wie du etwas zu schneiden hast und nicht auf andere Ratschläge hören sollst?
ChatGPT spielt sich als Arzt auf. Der Messerhersteller hält den Mund und überlässt dir die Verantwortung. Komplett andere Geschichte.
 
  • Gefällt mir
Reaktionen: HolySkillet, CeeSA, Donkey Kong und 10 andere
Zurück
Oben