News KI-Hacks: Wer trägt die Verant­wortung, wenn KI selbst­ständig an­greift?

[OldboyX]

Glaube auch, dass das relativ leicht zu beheben sein wird.
Vorsatz kann man der Maschine natürlich nicht nachweisen. Der Person die den Prompt schreibt aber sehr wohl. Und den Entwicklern kann man je nach Fall sicher auch mangelnde Sicherheitsvorkehrungen nachweisen.
Wie viele schon geschrieben haben funktioniert das ja sonst auch ganz ok.
Die USA haben ja sowieso case law, da müssen halt mal ein paar Fälle ausjudiziert werden um precedents zu schaffen.

 

[Pringel]

Der, der die paar Obersten Direktiven entweder dumm implementiert hat oder gar nicht implementiert hat.

Keine Ahnung wie das überhaupt eine Diskussion sein kann

 

[jauns91]

Mein Senf dazu:

KI ist kein eigenständiger Akteur, sondern ein Werkzeug.
Für Schäden gilt die klassische Produkthaftung, veranschaulicht am Beispiel eines Hammers:

Der Anwendungsfehler: Schlägt der Nutzer daneben, haftet der Nutzer.
Der Produktfehler: Fliegt der Hammerkopf wegen eines Materialfehlers ab, haftet der Hersteller.
Der Kontrollfehler: Übersieht der Nutzer trotz offensichtlicher Mängel den lockeren Kopf, haftet der Nutzer.

Am Ende haftet fast immer der Nutzer. Eine Ausnahme besteht nur dann, wenn das System ein unvorhersehbares, für den Nutzer nicht erkennbares Fehlverhalten zeigt.

Um Haftungsrisiken zu minimieren, werden Industrie und Gesetzgeber zwei unterschiedliche Wege gehen: Analoge Welt: Umfassende Handbücher, absurde Warnhinweise und strenge Zertifizierungen sichern Hersteller ab - gibt's ja heute schon. KI-Welt: Hier greifen Compliance-Vorgaben, Prüfverfahren und strikte Anwendungsstandards.

 

[mischaef]

@lamda
Das aber auch nur in wenigen Fällen...

 

[seyfhor]

Nein, er ist der Betreiber. Oder haften Fahrradhersteller auch für Unfälle, die deren Kunden mit ihren Produkten haben oder verursachen?

Für mich sind das verschiedene Sachen. Genau das muss dann ja auch geklärt werden.
Klar könnte man es vielleicht so vergleichen, dass ich ein Auto (die KI) starte, Automatik auf D und dann steige ich aus.
Aber eigentlich nutzt man die KI ja, also fahre ich das Auto. Ich weiß nur nicht, dass hinten ein fetter Anhänger dran ist, der Sachen beschädigen könnte, da ich diesen nicht sehe und nie angehängt habe.

(...) bemerkenswert, dass Software mittlerweile überhaupt eigenständig zu einem solchen Vorgehen in der Lage ist. Technisch ist das faszinierend.

Das ist eigentlich der Punkt. Keiner weiß was da doch passiert. Warum macht die KI dies oder jenes?

Wobei man auch unterscheiden muss, ist das jetzt, wie diese Ausbrüche zuletzt, bei der KI Firma passiert oder mit der KI, die man sich selber zu Hause "hält" oder mit einem "agentischen Betriebssystem", dass wir irgendwann womöglich alle auf dem Handy haben.

 

[OldZocKerGuy]

Selbst als Dev der Mist baut, kann dieser nicht (per du) zur Verantwortung gezogen werden, wenn dann der jeweilige Geschäftsführer, zumindest in AT ist dieser für alles was in einer Bude abgeht der Verantwortliche.

Ob es dann wirklich soweit kommt, ist eine Aufgabe div. Gerichte und Gesetzgebungen in den jeweiligen Ländern.

 

[Eagle-PsyX-]

Hot Take: der Entwickler der Software trägt die Verantwortung für sein Produkt? Wirre These, ich weiss.

finde die diskussion absurd. der jenige auf dem die server läuft.
wenn meine ddos software zufällige IPs runterzieht hafte ich, egal ob "Software"- oder "LLM"fehler...

 

[FrittiDeluxe]

Wir haben einfach nichts aus Civilization Call To Power und der AI Entity gelernt und ehe wir uns versehen, sind die Hälfte unserer Städte in KI Hand.

 

[Enigma]

Der gesunde Menschenverstand sagt doch schon, dass derjenige, der das Regelwerk für die KI definiert, Schuld ist. Das kann also auch der Kunde sein oder der Dienstleister, nicht zwingend der KI Betreiber und auch nicht der Entwickler.

Eben. Die übrige Frage ist dann, welche Haftung der Softwarehersteller für ein "kaputtes" Produkt trägt - z.B. wenn ein sich die Software über ein "Du sollst nicht xxx machen" hinwegsetzt? Da könnte es spannend werden, wie gut ein LLM sich selbst "kontrollieren" muss.

 

[Beelzebot]

Wenn deren KI-Modelle Amok laufen

Das tun sie ja eben nicht, das können sie auch garnicht. Das, was sich da verselbstständigt, sind die Agenten. Das LLM ist bloß die Metallsäge, womit die Gitterstäbe durchgesägt werden.

 

[ElDiablo]

Ein Entwickler muss durchaus sicherstellen, keine Cyberwaffe an Kunden auszuliefern. Warum muss man eine AI einsperren?

 

[Ruff_Ryders88]

Das tun sie ja eben nicht, das können sie auch garnicht. Das, was sich da verselbstständigt, sind die Agenten. Das LLM ist bloß die Metallsäge, womit die Gitterstäbe durchgesägt werden.

Wortklauberei. Alle wissen was gemeint ist.

 

[gartenriese]

Ist doch das gleiche Thema wie wer Schuld hat wenn das autonome Fahrzeug einen Unfall baut. Wurde es dort nicht schon gerichtet geklärt?

 

[Ruff_Ryders88]

Naja, kommt drauf an welches Gericht du fragst. Ist ja von Land zu Land unterschiedlich.

 

[Cabranium]

Das Problem ist, dass man Deterministisch nie jeden Fall voraus sehen kann. Deswegen gibt es immer Schwachstellen in Software. Bei Ki ist das noch unmöglicher.

Das ist ein Problem bei dem man Theoretisch eine Lösung hat, aber diese nie zu 100% sage ist.
Lediglich KI als Software zu verbieten.

Der Mittelweg wäre KI nur unter verschluss für ausgewählte Instutioben zu halten, leider ist das nicht mehr möglich, weil das erste was man tat, war sie Allgemein frei zugänglich zu machen.

Also Juristisch lässt sich das schlicht nicht lösen. Dazu bräuvhte man einen allgemeingültigen Moralkompass. Diesen gab und wird es jedoch nie geben. Den Moral ist etwas Menschen gemachtes und jeder Mensch hat seine eigene Vorstellung von Moral.

Also das Übel ist aus der Büchse gelassen worden. Ich sehe keine Praktisch anwendbare Lösung. Es wird nämlich immer ein Nordkorea/ Menscj existieren, dass es zu seinem eigenen Vorteil missbrauchen wird und ihm dazu alle Fähigkeiten implemtieren wird die dafür Nötig sind.

 

[Caramon2]

Im Grunde genommen gibt es dafür schon lange eine Regelung: Eltern haften für ihre Kinder.

Solange KIs noch "unmündig" sind, haftet die Firma dahinter (Hersteller bzw. Betreiber).

 

[fulgent]

Wer den Prompt schreibt/die KI auf ein Thema ansetzt und damit die ursächliche Anfrage lostritt hat die Verantwortung, sofern beim Prompten die Folgen absehbar gewesen wären.
Waren diese nicht absehbar trägt derjenige die Verantwortung der der KI Ihre Möglichkeiten bereitstellt und sie überwachen könnte.
Sofern die Folgen auch mit diesen Maßnahmen nicht absehbar war, so trägt der in den Verkehr Bringer die Verantwortung, sprich derjenige der das Modell freigeben hat für die Nutzung.

Da die Schäden immens sein können, muss hier ein treuhändisch verwalteter Fond eingerichtet werden, der pro Anfrage einen usdollarcent zurücklegt, um Schäden zahlen zu können und auf den die Firmen keinen Einfluss nehmen dürfen.

 

[Pringel]

Das tun sie ja eben nicht, das können sie auch garnicht. Das, was sich da verselbstständigt, sind die Agenten. Das LLM ist bloß die Metallsäge, womit die Gitterstäbe durchgesägt werden.

Was wie gesagt Blödsinn ist. Alles was bisher passierte waren Tests mit gelockerten Sicherheitsmaßnahmen ("oberste Direktiven").
Ein Programm, kann seine Programmierung nicht umgehen, wenn ein festes Teil des Codes ist, daß er es
1. nicht umgehen darf und
2. keine Software selbst erstellen darf, was ihr selbst oder ihm die Umgehung ermöglicht.

DAS SIND BASICS

Nochmal. Keine Ahnung warum es dazu eine Diskussion gibt. Diese Nachrichten ist stupide WERBUNG, daß man es hinbekommen hat so etwas schlaues zu bauen

Da die Schäden immens sein können, muss hier ein treuhändisch verwalteter Fond eingerichtet werden

my Lord and G'sus...

 

[Miuwa]

Im Detail muss das sicher noch aus dividiert werden, aber grundsätzlich sehe ich da ne Kombination aus Produkt, Betreiber und Nutzerhaftung. Wenn der Nutzer promted "Hack Unternehmen XY" ist er erstmal dafür verantwortlich. Wenn der Nutzer sagt "Gib mir die Performancewerte des neuen BMW" und die KI dann BMW hacked um an die Daten zu kommen ist erstmal der Anbieter/Betreiber verantwortlich, und der wiederum kann dann potentiell den Entwickler/Hersteller in Regress nehmen - je nach dem, wie die Verträge aussehen.

Glücklicherweise sind in den Bekannten Fällen Nutzer, Betreiber und Entwickler ein und die selbe Enität (OpenAI oder Anthropic).
Ich sehe keinen Grund, warum ne Firma nicht die volle Haftung für eine selbst genutzte, betriebene und entwickelte KI übernehmen sollte. Lediglich beim Strafmaß sollte man natürlich zwischen Absicht und Fahrlässigkeit unterscheiden.

Ich bin mir sehr sicher, dass da im Hintergrund große Mengen Geld geflossen sind, damit es nicht zu nem Gerichtsprozess kommt.

 

[Pringel]

Im Detail muss das sicher noch aus dividiert werden, aber grundsätzlich sehe ich da ne Kombination aus Produkt, Betreiber und Nutzerhaftung. Wenn der Nutzer promted "Hack Unternehmen XY" ist er erstmal dafür verantwortlich.

Warum sollte die KI das machen? Wir sind wieder bei #58... Nonsense-Circle?