News KI-Hacks: Wer trägt die Verant­wortung, wenn KI selbst­ständig an­greift?

[mischaef]

Autonome KI-Agenten von OpenAI und Anthropic haben in den vergangenen Wochen selbstständig andere Systeme angegriffen. Technisch ist das bemerkenswert – rechtlich jedoch ein Problem. Denn wer trägt die Verantwortung, wenn eine Software weitgehend eigenständig handelt und dabei Schäden verursacht?

Zur News: KI-Hacks: Wer trägt die Verant­wortung, wenn KI selbst­ständig an­greift?

 

[Metalveteran]

Hot Take: der Entwickler der Software trägt die Verantwortung für sein Produkt? Wirre These, ich weiss.

 

[lamda]

"Eltern haften für ihre Kinder"

 

[aklaa]

Terminator 2 ... Stromabschaltung wegen KI.
jetzt gehts richtig los und es wird gruselig.

 

[h00bi]

Die Frage ist so absolut unnötig.
Der gesunde Menschenverstand sagt doch schon, dass derjenige, der das Regelwerk für die KI definiert, Schuld ist. Das kann also auch der Kunde sein oder der Dienstleister, nicht zwingend der KI Betreiber und auch nicht der Entwickler.

Hot Take: der Entwickler der Software trägt die Verantwortung für sein Produkt? Wirre These, ich weiss.

nicht hot, sondern zu kurz gedachter Quatsch. Warum sollte Anthropic schuld sein, wenn ich mit meiner selbst aufgezogenen Mythos Instanz Unsinn mache?

 

[luckysh0t]

Nuja, wenn man sein Produkt nicht unter Kontrolle hat, und weis was es tut, handelt man meiner Meinung nach mehr als grob fahrlässig - insofern hat der Entwickler bzw. Nutzer dieses die volle Haftung zu tragen.

 

[MrE10]

nicht hot, sondern zu kurz gedachter Quatsch. Warum sollte Anthropic schuld sein, wenn ich mit meiner selbst aufgezogenen Mythos Instanz Unsinn mache?

Auch zu kurz gedachter Quatsch. Wenn du mit deiner selbst aufgezogenen Mythos Instanz Unsinn machst, haftest natürlich auch du.

 

[Zer0DEV]

Grundsätzlich ist die Frage der Schuld durch eine simple Herangehensweise zu erörtern:
Ein System, welches autonom agiert muss, damit es autonom agieren kann, eingeschalten werden.
Der der den Stecker reingesteckt hat, trägt also die Verantwortung.

 

[Blackhorse79]

Für Scharlatane jeglicher Art ein gefundenes Fressen. Jetzt muss nur noch der "Richtige" seine Agenten losschicken, um Verbotenes zu tun. Oder Schlimmer ganze Unternehmen oder staatliche Einrichtungen lahmlegen. Es war ja nur der Agent.

Merken die da drüben überhaupt noch mit was für einem Feuer da gerade gespielt wird?

 

[matschei]

Wenn es ein Unfall ist kommt es auf die Konsequenzen an. Bei einem Autounfall gibt es auch keine strafrechtlichen Folgen wenn nicht schwere Folgen wir z.B. Personenschaden und Fahrlässigkeit zusammenkommen.

Die finanzielle Haftung ist dagegen ganz klar beim Betreiber.


Ich sehe da keine rechtliche Grauzone. Die Ebene der Fahrlässigkeit wird sich mit fortschreiten des Wissens natürlich erweitern. Das lässt sich jedoch schwer Gesetzlich beschreiben weil das immer im Wandel ist.

 

[XTX]

Ich glaube alle die Firmen sind sich bewusst wenn es zur ersten Klage kommt, hat dies erhebliche Auswirkungen auf die Börsen Kurse.

 

[schrotti12]

Witzig, wie oft in solchen Zusammenhängen der Begriff "Gesunder Menschenverstand" fällt. Grad so, als ob man sich in der Geschichte schon einmal hätte darauf verlassen können. Aber jetzt, wo KI da ist, ist das auf einmal das Maß der Dinge? Ja ... klar.

 

[Metalveteran]

Warum sollte Anthropic schuld sein, wenn ich mit meiner selbst aufgezogenen Mythos Instanz Unsinn mache?

Hast Du meinen Kommentar auch vollständig verstanden? Wenn DU mit DEINER Mythos-Instanz Unsinn treibst, bist DU der Entwickler und DU trägst die Schuld.

 

[Flutefox]

Ausgerechnet die umfangreichen Sicherheitsmechanismen von OpenAI und Anthropic

Wenn die Buden nicht mal einfache Netzwerksegmentierung hinbekommen würde ich nicht von umfangreichen Sicherheitsmechanismen reden...

 

[Tito_2000]

Selbstverständlich der Betreiber.

 

[Cyberpunk61]

Wer den Geist fahrlässig oder billigend aus der Flasche lässt, der soll gefälligst auch haftbar sein.
Dann sollen Anthropic und OpenAI auch ordentlich eins übergebügelt bekommen.
Je eher und beständig saftige Strafen verhängt werden, umso größer sollte der Lerneffekt bei den Verantwortlichen Software-Firmen sein.
Wenn durch wild gewordene KI richtig große Schäden ausgelöst werden, dann sollten die Staaten auch die Option haben diese Unternehmen zu zerschlagen und sämtliche finanziellen Mittel zu konfiszieren sowie Technologie und Forschungsergebnisse in staatliche Hände zu überführen.
Zur Not müssten diesbezüglich Gesetze angepasst werden.

 

[###Zaunpfahl###]

1. Wer ist schuld wenn jemand ein AI system aufzieht und wenn man kurz mal nicht hinguckt läuft das Ding einfach mal Amok? Muss man als Nutzer wirklich alles bedenken was die AI machen könnte also jeden Datei, Netzwerk Zugriff etc.?
2. Wer ist schuld wenn jemand ein AI system aufzieht und es einfach ungehindert laufen lässt? Das wird schon wissen was es tut...

 

[MalzM]

Ich dachte immer der, der die Waffe verwendet, ist auch der Täter? Und die KI "einfach mal laufen lassen" ist ja wohl auch eine Form der Verwendung.
Und sich von selbst "einschalten" tut noch kein KI Modell, es gibt immer noch eine initiierende Handlung eines Menschen oder einer Firma, welcher den ersten Domino Stein anstupst und den "Denkprozess" startet.

 

[TasmTeufel]

Ein KI-System ist ein Produkt/Dienstleistung einer Firma, die dieses betreibt und entwickelt. Wenn jetzt durch fehlerhafte Sicherheitssysteme, die KI selbstständig hackt, ist der Entwickler/Betreiber haftbar, gibt meines Wissens noch keine Urteil darüber, aber ein KI-Agent/Engine ist keine Rechtsperson sondern ein Produkt/Dienstleistung. Es kann gemietet werden, oder limitiert durch Beschränkungen kostenlos genutzt werden. Also wird gewerblich damit Geld verdient.

 

[Dr. MaRV]

Warum sollte Anthropic schuld sein, wenn ich mit meiner selbst aufgezogenen Mythos Instanz Unsinn mache?

Weil man seit einigen Jahren die Verantwortung gern auf Andere abwälzt, statt selbst für seine Fehler einzustehen. Unsere gewählten Volksvertreter machen es vor und alle wollen es nachmachen.

Hast Du meinen Kommentar auch vollständig verstanden? Wenn DU mit DEINER Mythos-Instanz Unsinn treibst, bist DU der Entwickler und DU trägst die Schuld.

Nein, er ist der Betreiber. Oder haften Fahrradhersteller auch für Unfälle, die deren Kunden mit ihren Produkten haben oder verursachen?