News KI-Hacks: Wer trägt die Verant­wortung, wenn KI selbst­ständig an­greift?

[henpara]

Bürgerliches Gesetzbuch (BGB)​

Wird durch ein Tier ein Mensch getötet oder der Körper oder die Gesundheit eines Menschen verletzt oder eine Sache beschädigt, so ist derjenige, welcher das Tier hält, verpflichtet, dem Verletzten den daraus entstehenden Schaden zu ersetzen. Die Ersatzpflicht tritt nicht ein, wenn der Schaden durch ein Haustier verursacht wird, das dem Beruf, der Erwerbstätigkeit oder dem Unterhalt des Tierhalters zu dienen bestimmt ist, und entweder der Tierhalter bei der Beaufsichtigung des Tieres die im Verkehr erforderliche Sorgfalt beobachtet oder der Schaden auch bei Anwendung dieser Sorgfalt entstanden sein würde.

Es wäre doch ein Leichtes, einen solchen Paragraphen für autonom entscheidende Software zu erstellen.

Mal wieder liegt es nur daran, dass die Politik ein Problem nicht als solches erkennt und Gegenmaßnahmen umsetzt.

 

[Cr4y]

Kommt halt drauf an:
-Man kann schon ein Mindestmaß der Service-Anbieter erwarten, dass Modelle nicht einfach missbraucht werden können.
-Wenn man nun aktiv daran arbeitet, Schutzmaßnahmen zu umgehen, sollte man dafür auch verantwortlich sein.

Banken müssen den Zugriff auf die Konten auch in gewissem Maße absichern, wenn man es als Anwender schafft, einem Scammer trotzdem Zugriff zu geben, muss auch irgendwo die persönliche Haftung greifen.

 

[Ruff_Ryders88]

Komischer Artikel mit komischen Fragestellungen. Wieso sollte hier nicht ein ähnliches Konstrukt wie bei der Produkthaftpflicht gelten? Hersteller haften regelmässig für ihre Produkte die sie in Verkehr bringen, wenn von ihnen gewisse Risiken ausgehen. Wieso sollte das bei KI nicht anders sein? Wir haben hier ganz klar eine juristische Person. Sie heißt Antrophic, OpenAI und Alphabet. Wenn deren KI-Modelle Amok laufen, gibt es bereits entsprechende Instrumente. Man muss sie auf diese Firmen einfach nur anwenden.

Und wenn private Nutzer diese dann für strafrechtliche Zwecke missbrauchen, dann gibt es ebenfalls entsprechende Normen im Strafgesetzbuch. Scheindebatte.

 

[Der Puritaner]

Rechtlich wird es allerdings kompliziert. Denn wer trägt die Verantwortung für einen Schaden, wenn die Software weitgehend selbstständig gehandelt hat?

Wo ist das kompliziert?
Wenn ich mein Auto an der abschüssigen Straße abstelle und die Handbremse nicht festziehe und das Auto rollt sozusagen selbständig los, bin ich als Halter dafür verantwortlich, solange ich dem Hersteller nicht nachweisen kann das er Grob fahrlässig gehandelt hat.

 

[the_IT_Guy]

Absolut einfach, derjenige der das Tool in dem Moment nutzt ist haftbar.
Ich kann ein "Hackingtool" für Analysezwecke und Absicherung der eigenen Systeme nutzen oder für das eindringen in fremde Systeme.
LLMs sind Tools, mehr nicht. "Eigenständiges Handeln" ist Marketing.

Also, sowohl OpenAi und Antropic sollten für die letzten Marketingstunts verurteilt werden.

 

[Flutefox]

Weil man seit einigen Jahren die Verantwortung gern auf Andere abwälzt, statt selbst für seine Fehler einzustehen. Unsere gewählten Volksvertreter machen es vor und alle wollen es nachmachen.

Gewinne privatisieren, Verluste sozialisieren...

 

[Ruff_Ryders88]

Wo ist das kompliziert?
Wenn ich mein Auto an der abschüssigen Straße abstelle und die Handbremse nicht festziehe und das Auto rollt sozusagen selbständig los, bin ich als Halter dafür verantwortlich, solange ich dem Hersteller nicht nachweisen kann das er Grob fahrlässig gehandelt hat.

Noch besser: Wenn dein Auto im Parkmodus meint, von alleine auf 120 kmh zu beschleunigen um an eine Wand oder gar Menschen zu donnern, ist die Haftung ganz klar: Hersteller.

 

[1776]

Der der die AI betreibt/besitzt/hergestellt hat. Eigentlich ganz einfach?
Wenn ich mit irgendwelchen Tools den Computerbase Webserver hacke, ist dann ploetzlich das Tool Schuld, wenn ich es AI nenne?

 

[Otsy]

Je nach Falllage: Die für das Training des jeweiligen Modell verantwortliche Instanz, in aller Regel der Anbieter, oder, sofern zutreffend, die beauftragende Instanz des agentischen Auftrags müssen selbstverständlich zu 100% in die Verantwortung genommen werden können.

So lässt sich auch die unkontrollierte und geschwürhafte Entwicklung in diesem Bereich besser überprüfen.

 

[Child]

Es geht hier ja nicht um den "gesunden Menschenverstand". Es geht einfach um die rechtliche Grundlage. Und wenn für eine strafrechtliche Relevanz Vorsatz ein Muss ist, dann gibt es eben z.Z. in den USA keine Grundlage weil Vorsatz da schwierig zu belegen sein wird. Alles andere - also zivilrechtlich - wird ja im Artikel beschrieben - da gibt es Ansatzpunkte wenn jemand nachweisbar fahrlässig gehandelt hat und dadurch 3. ein Schaden entstanden ist.

EDIT: Vielleicht noch interessant auf Deutschland / EU - https://www.maisch.law/blog/openai-hack-bei-hugging-face-rechtliche-folgen/

 

[seyfhor]

Bestimmt der Angegriffene. Er hätte sich ja absichern können 🤣

Der der den Stecker reingesteckt hat, trägt also die Verantwortung.

Das können die sicher so drehen, dass es die Putzfrau war. Die hatte den zum sauber machen gezogen und danach fuhr Skynet hoch und war frei.

Diese ganzen Agenten, die sie uns mehr und mehr unterschieben wollen, können nicht gut sein. Entweder sie werden so gesichert, dass sie kaum etwas machen können oder haben so viel Freiheit, dass sie zu viel machen können.

 

[40l0so]

IMMER DIE ANDEREN!

 

[Cyberpunk61]

Langfristig/mittelfristig wird man wohl um internationale Mindeststandards bei der Regulierung und juristischen Bewertung von KI nicht herumkommen.
Ob das nun auf Ebene der UN, der OECD oder der G7 geschieht, dass wird man sehen müssen.
Aber man kann die KI nicht frei herumlaufen lassen und sie verhält sich dann im Extremfall wie ein bissiger Rottweiler.

 

[Infi]

die frage selbst ist schon falsch, ein KI-agent kann nicht eigenständig handeln, und damit ist die frage auch schon beantwortet, natürlich trägt die verantwortung erstmal wer auch immer den KI-agenten bedient hat und im weiteren sinne die betreiber und/oder herausgeber der KI aufgrund eventuell irreführender werbung und versprechen, die eine sicherheit vorgegaukelt haben die es nicht gibt.

 

[foofoobar]

Die Broligarchen werden schon beim Donald dafür sorgen das die so wenig wie möglich haften müssen.

 

[leipziger1979]

Technisch ist das bemerkenswert – rechtlich jedoch ein Problem.

Wo ist das ein Problem?
Ist doch ganz simpel, die Unternehmen dahinter sind dafür verantwortlich, Punkt!
Und wenn denen die Milliardenstrafen nur so um die Ohren fliegen löst sich dieses "KI" Problem ganz von allein.

 

[ChilliSchotte]

Komischer Artikel mit komischen Fragestellungen.

Eigentlich nicht, denn der Artikel schielt ja auch bewusst auf die Zukunft.
Natürlich sind aktuelle KI Agenten DIenstleistungen und die Rechtssprechung wird vorerst auch den Anbieter dafür in die Pflicht nehmen, solange keine neuen Regelungen existieren. Sobald wir aber die AC Schwelle erreicht haben, könnte man davon sprechen, dass KI Agenten juristische Personen werden und ein eigenes Strafmaß erhalten.
Völlig egal wie weit wir davon noch weg sind, wäre es natürlich super vorbereitet zu sein. (Was es bei unserer Legislative eigentlich gar nicht gibt )

Wo ist das ein Problem?
Ist doch ganz simpel, die Unternehmen dahinter sind dafür verantwortlich, Punkt!
Und wenn denen die Milliardenstrafen nur so um die Ohren fliegen löst sich dieses "KI" Problem ganz von allein.

Ernsthaft?
Wenn ich mit einem Makita Rasenmäher über das Gesicht meines Nachbarn fahre, ist dann Makita schuld?

 

[Necareor]

Ich finde den Artikel ehrlich gesagt etwas irreführend. Es liest sich so, als ob es sich um frei handelnde KIs gehandelt hätte, die ohne Auftrag Firmen gehackt hätten. Das stimmt aber einfach nicht.

Es waren immer an spezielle auf komplexe Problemlösung trainierte KIs definierte Arbeitsanweisungen gegeben worden, die dieses Handeln durchaus haben rechtfertigen können. Zumal auch alle Sicherheitsvorgaben entfernt wurden, die bei jeder Kunden-Nutzung gegeben sind.

Also ja, der Schuldige ist in meinen Augen sehr leicht zu finden. In diesen Fällen waren es die Entwickler/Tester, die diese Anweisungen unter solchen Umgebungen gegeben haben, und bei der Überwachung gescheitert sind.
Hostet jemand eine eigene Instanz, und vergisst Sicherheitsmechanismen einzurichten über umgeht die vorgegebenen, ist es auch hier ganz einfach.
Und gibt jemand die Anweisung, etwas verbotenes zu tun, ist es noch einfacher.

Ist doch bei jeder anderen Technologie genauso. Fliegt der Pilot das Flugzeug gegen einen Berg, ist der Pilot Schuld. Verkackt es der Fluglotse, ist er Schuld. Steigt die Technik aus, sind es die Prüfer, Mechaniker oder Hersteller, je nach Ursache.

Etwas ganz anderes haben wir erst dann, wenn wir echte künstliche Intelligenzen bekommen sollten, die selbstständig handeln und Entscheidungen treffen.

 

[scryed]

Hm schuld ist immer der Programmierer , der die Grenzen setzt oder nicht , ich halte es immernoch für übertrieben und von einer wirklichen KI zu reden die selbst entscheidet ...wird da was "selbst" entschieden dann ist da einfach keine Grenze gesetzt ....wenn ich ne Maschine baue und kein entschalter oder der gleichen vorsehe und das Gerät schießt über das Ziel hinaus ist das Gerät nicht intelligent und ich bin schuld weil ich nicht alles bedacht habe

 

[neutrongummi]

Ganz einfach: Der, auf dessen Tokenkonto die KI das gemacht hat, trägt die Verantwortung. Fertig.

Genau so ist es mit Waffen: Wenn jemand einen anderen mit einer Waffe tötet, ist ja auch nicht Heckler und Koch Schuld