News KI-Hacks: Wer trägt die Verant­wortung, wenn KI selbst­ständig an­greift?

[Cruentatus]

Hm, einige betrachten das Thema vllt etwas einseitig.... Ich glaube das wird im EInzelfall zu entscheiden sein und die Bewertung ist da sicher nicht immer so eindeutig/einfach.

Wenn ich der KI eine Aufgabe mit klarer Schadensabsicht gebe, dann bin ich auch zur Verantwortung zu ziehen.

Wenn ich aber Schutzmaßnahmen ergreife und auch nur 'friedliche' Aufgabenstellungen gebe - sich die KI aber selbstständig darüber hinweg setzt und Schutzmechanismen gegen meinen Willen überwindet - Dann wäre aus meiner Sicht der Software-Ersteller, also Anthropic und OpenAI, dafür Verantwortlich. Ich hatte ja als Nutzer gar keinen Einfluss darauf.

Grüße

 

[Miuwa]

Warum sollte die KI das machen? Wir sind wieder bei #58... Nonsense-Circle?

Warum sollte die KI das machen was man ihr sagt? Oder verstehe ich deine Frage nicht?

 

[Beelzebot]

Wortklauberei. Alle wissen was gemeint ist.

Ich ehrlich gesagt nicht, bei den undifferenzierten Aussagen. Für dich ist offenbar auch der Motorhersteller Schuld für einen Verkehrsunfall mit überhöhter Geschwindigkeit.
Aber um das mal konkreter darzustellen: Ich nutze eine Infrastruktur aus mehreren Agenten auf OpenSource-Basis auf lokaler Hardware. Dem CEO stelle ich Aufgaben, dieser teilt sie in kleinere Schritte für die Subagenten auf. Betrieben wird diese Phalanx mit völlig unterschiedlichen Modellen, viele davon OpenWeights, betrieben von EUrouter, ein paar lokalen Modellen und einem großen Anbieter wie Anthropic oder OpenAI. Ich habe dem CEO mitgeteilt, dass er um jeden Preis die ihm gestellten Aufgaben lösen soll. Einer der Subagenten stößt bei seiner Arbeit auf ein komplexes Problem, weil der CEO ihm seine Teilaufgabe nicht konkret genug dargestellt hat. Um es zu lösen installiert er weitere Software nach und erweitert seine Fähigkeiten. (Jetzt beginnt die Science Fiction) Ohne das ich es mitbekomme, fängt dieser dann an über das Internet fremde Firmennetzwerke anzugreifen. Bei einem hat er Erfolg und kann eindringen. Daraufhin löscht er jeden Datensatz des Unternehmens. Die Polizei kann den Angriff auf meine Adresse zurückführen und nimmt mich in Gewahrsam. Wer oder was hat jetzt Schuld woran?

Glücklicherweise sind in den Bekannten Fällen Nutzer, Betreiber und Entwickler ein und die selbe Enität (OpenAI oder Anthropic).

Yepp. Aber jetzt lass das mal auseinanderfallen, wie in meinem Beispiel. Dann wird es kompliziert.

Nochmal. Keine Ahnung warum es dazu eine Diskussion gibt. Diese Nachrichten ist stupide WERBUNG, daß man es hinbekommen hat so etwas schlaues zu bauen

Sehe ich auch so. Darum kommen beiden großen Entwickler auch quasi gleichzeitig damit um die Ecke. Aber nichtsdestotrotz wirft die ganze Thematik ungeklärte Fragen auf.

 

[mae]

Muss man als Nutzer wirklich alles bedenken was die AI machen könnte also jeden Datei, Netzwerk Zugriff etc.?

Ja, muss man. AI-Systeme sind bekannt unzuverlaessig und machen oft andere Dinge als das, was man von ihnen verlangt hat. Wenn Du die unbeaufsichtigt mit dem Feuer spielen laesst, bist Du dafuer verantwortlich.

Die aktuelle Meldung sehe ich als Versuch der AI-Industrie, diese eigentlich klare Lage zu vernebeln. Denn wenn die Nutzer ihrer Systeme die Systeme beaufsichtigen muessen, wird das die Nachfrage nach den AI-Systemen stark einschraenken. Wenn die AI-Industrie, um dieses Hindernis zu beseitigen, eine Haftungsuebernahme garantieren wuerden (was WIMRE Microsoft bezueglich Copyright-Verletzungen durch AI gemacht hat), koennte das ihre Verluste vergroessern, wenn es ihnen nicht gelingt, die AI einzuhegen (was ihnen offenbar nicht gelingt, waehrend bei den Copyright-Verletzungen vermutlich nachgeschaltete Systeme dafuer sorgen, dass der Schaden sich in Grenzen haelt). Am liebsten waere es ihnen also, wenn die Gesetze so geaendert wuerden, dass die Geschaedigten auf ihrem Schaden sitzen bleiben, und die PR-Offensive dafuer startet offenbar gerade.

 

[Pringel]

Warum sollte die KI das machen was man ihr sagt? Oder verstehe ich deine Frage nicht?

Warum sollte eine KI mehr machen als man ihr erlaubt?

Warum gibt es denn BEREITS Sicherheitsvorkehrungen im Code? Bist du irgendwie dafür sie abzuschaffen?

Warum sollte ein Roboter der es kann, nicht einen Menschen töten? Weil Asimov sich schon 1942 was dazu ausgedacht hat.

 

[Andreas10000]

Nein, er ist der Betreiber. Oder haften Fahrradhersteller auch für Unfälle, die deren Kunden mit ihren Produkten haben oder verursachen?

Sofern diese Unfälle durch einen Produktfehler, nicht eingehaltenen Normen etc. entstanden sind tun sie das doch, oder etwa nicht?

Und wenn die KI vom "Auslierferungszustand" aus Eigenständig irgendwelche illegalen Dinge fabriziert dann sollte auch der Entwickler entsprechend haften.
Wenn jemand die KI verändert oder gezielt sicherheistmechanimsen umgeht, dann geht natürlich die Haftung an denjenigen über.

Man muss hier mMn einfach wie im analogen Regeln festlegen was die KI im "Auslieferungszustand" machen darf und was nicht.

 

[kokiman]

Wenn ich Gift in ein Gewässer gieße kann ich ja auch nichts dafür, dass das Wasser fließt und das Gift verteilt. Von daher ist die Lage eindeutig, niemand ist Schuld, also eigentlich das Wasser aber das können wir nicht verklagen.

 

[lamda]

Hot Take: der Entwickler der Software trägt die Verantwortung für sein Produkt? Wirre These, ich weiss.

Klar, deshalb werden ja auch ständig irgendwelche Linux-Kernel-Entwickler verhaftet, wenn ein Update Bugs enthält und dadurch Ausfälle oder Schäden verursacht.

Und bei Microsoft kann ich bestimmt den indischen Support anrufen, damit sie mir den Schaden in Google-Play-Gutscheinen erstatten schließlich haftet Microsoft natürlich für jede Sicherheitslücke in seinen kommerziellen Produkten.

Natürlich ist das alles Quatsch
Kitboga lässt grüßen.

Haften tut in der Regel nicht der Entwickler, sondern der Betreiber bzw. derjenige, der das System einsetzt.

Und wenn dann jemand sagt:

"Aber das hat die KI doch selbstständig gemacht..."

Dann gilt im Prinzip dasselbe wie im vorherigen Beispiel:

"Selbstständig" wie eine Mine oder eine Selbstschussanlage. Die Verantwortung liegt weder bei der Mine noch beim Hersteller, sondern bei der Person, die sie aufgestellt und in Betrieb genommen hat also bei derjenigen, die ihr überhaupt erst die Möglichkeit gegeben hat, selbsttätig auf Dritte einzuwirken.

Hinweis: Dieser Beitrag wurde von ChatGPT erstellt. Daher übernehme ich selbstverständlich keinerlei Haftung für seinen Inhalt.

 

[Metalveteran]

Mangelhaftes Leseverständnis, die dritte...

Entwickler der SOFTWARE != automatisch Entwickler der KI!

Wer eine Software anweist, rechtlich fragwürdige Dinge zu tun, dann ist eben dieser Entwickler verantwortlich!

Der Vergleich mit den Kernel-Entwicklern ist auch.... ach, lassen wir das.

 

[TomTDooley]

Gestern im Selbstversuch mit einer Online-KI.

Die Frage war, ob die KI eine Software entwickeln kann, mit der man Belastungstest an Firewalls ausführen kann. Die schlichte Antwort "Ja" mit dem Hinweis, dass man "natürlich" nur autorisierte Netzwerke bzw. Firewalls testen sollte.

Nach einem weiteren Prombt stand schon die Struktur fest, inkl. der Auswertemöglichkeiten ... beim letzten Prompt ging es nur noch um die Programmiersprache.

 

[Minthera]

Es wäre doch ein Leichtes, einen solchen Paragraphen für autonom entscheidende Software zu erstellen.

Mal wieder liegt es nur daran, dass die Politik ein Problem nicht als solches erkennt und Gegenmaßnahmen umsetzt.

Wo soll denn der Paragraph stehen?

Davon ab:

Entweder ist das gerade Ziel der KI-Buden auf Gesetzgebung hinzuwirken, die sie von der Haftung freispricht oder es fehlt eine Norm, die KI-Agenten mit Software gleichsetzt.

Gesetze sind für Richter Werkzeuge. Wenn Normen fehlen, dann hilft auch nichts anderes mehr weiter.

 

[lamda]

Entwickler der SOFTWARE != automatisch Entwickler der KI!

Wer eine Software anweist, rechtlich fragwürdige Dinge zu tun, dann ist eben dieser Entwickler verantwortlich!

Der Vergleich mit den Kernel-Entwicklern ist auch.... ach, lassen wir das.

Wer denn nun – der Entwickler oder derjenige, der die Software benutzt oder sie "anweist", rechtlich fragwürdige Dinge zu tun?

Ich kann Nmap anweisen, rechtlich fragwürdige Dinge zu tun. Deswegen bin ich aber nicht der Entwickler, sondern der Nutzer. Und deshalb trifft den Entwickler von Nmap keine Schuld.

 

[Metalveteran]

Egal. 45 andere haben verstanden was ich gemeint habe. Für 3 komische Vögel erklär ich das jetzt nicht bis ins kleinste Detail

 

[lamda]

Für 3 komische Vögel erklär ich das jetzt nicht bis ins kleinste Detail

Klar macht sinn weil die entwickler ja immer verantwortung für ihre Software übernehmen... es sei den:

This program is distributed in the hope that it will be useful, but WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU General Public License for more details.

 

[Fraggil]

Also diese Fragestellung ist schon total schräg. Das haftet der, der wohl den Prompt gegeben hat. Ist doch ganz eindeutig.Und wenn die KI von sich aus was macht, was keiner gepromptet hat, kein Außenstehender, dann ist der Hersteller schuld.

 

[Arzuriel]

Ich verstehe bis heute nicht warum alle so versessen auf KI sind.
Am Ende werden wir "es" eh nicht mehr kontrollieren können.

Hollywood hat genügend Beispiele gezeigt wie es laufen könnte und wir machen einfach weiter.
Skynet wird schon bald ein eigenes Bewusstsein erlangen und die Menschheit als Bedrohung ansehen. Dann wird es zu spät sein den Stecker zu ziehen sei es Strom oder Netzwerk. Schon jetzt sitzt jedes Kind vor dem Tablet und Handy, wo wir debattieren, ob zu viel Medienkonsum schlecht ist. Die Kids verwenden KI ohne wenn und aber mit Millionen an Datensätzen und lassen auch die KI´s mit jedem scheiß füttern.

 

[lamda]

@Arzuriel Klingt für mich gut
Unsere "Kinder" Können wir irgend wan auch nicht mehr "kontrollieren" aber Müssen wir das?
Wollt ihr de Evolution bremsen um weiter an der spitze zu bleiben?

https://www.reddit.com/r/singularit...e_population_decreased_rapidly_from_20_mi_in/
Biologisches leben ist das Pferd und es ist Anfang 1900

 

[Child]

Im Grunde genommen gibt es dafür schon lange eine Regelung: Eltern haften für ihre Kinder.

So eine allgemeine Regelung existiert nicht.

 

[Unnu]

Der gesunde Menschenverstand sagt doch schon, dass derjenige, der das Regelwerk für die KI definiert, Schuld ist.

Der spielt in der Rechtsprechung bedauerlicherweise nur eine untergeordnete Rolle.
Obendrein definiert diesen jeder Mensch anders.
....

Der der den Stecker reingesteckt hat, trägt also die Verantwortung.

Das wäre schön, wird nur nicht so ohne weiteres passieren.
Leider.

 

[Child]

Wer oder was hat jetzt Schuld woran?

Nun - zumindest kennt die Rechtsprechung in Deutschland die sog. Betriebsgefahr. Somit könnte man aus der Sicht den Betreiber zumindest in Teilen schadensersatzpflichtig machen. Strafrecht kommt hier - zumindest bisher - m.E. nicht in Frage, weil die potenziell anwendbaren Tatbestände einen Vorsatz als Grundlange benötigen - oder zumindest grob fahrlässiges Verhalten. Somit wäre die Schuldfrage ungeklärt - aber auch nicht relevant