News Notbremse für KI-Modelle: Anthropic will Stopp erst bei 1 Mrd. Dollar Schäden oder 50 Opfern

[xexex]

Die Macht, die KI-Systeme einzelnen Konzernen in die Hand geben, ist null greifbar...wenn solche Firmenkonstrukte, agierend ohne Moral oder Skrupel, die Grenze von beispielsweise maximal 49 Toten als akzeptables Risiko kalkulieren...auf was für Ideen könnten sie dann wohl kommen?

Jeder der sich an der Zahl 50 aufzieht, hat das Thema nicht im Ansatz begriffen, und nur als Bemerkung am Rande, es geht um Regulierung gegen keine Regulierung, auch wenn dir vielleicht die Zahlen nicht passen mögen.

 

[novemberkind]

@xexex Jede Zahl über 0 ermöglicht Missbrauch...nicht mehr und nicht weniger...das zu verargumentieren ist menschenverachtend...

 

[DeusExMachina]

Vielleicht möchte @xexex ja seine technophile Weltsicht revidieren wenn unter den 50 Akzeptablen Verlusten ein Angehöriger oder ein geliebter Mensch ist.

Oder ein selbstfahrender KI Laster sein Haus Zerstört weil er einen Aussetzer hat.

Ist ja in Namen des Fortschritts

 

[xexex]

Vielleicht möchte @xexex ja seine technophile Weltsicht revidieren wenn unter den 50 Akzeptablen Verlusten ein Angehöriger oder ein geliebter Mensch ist.

Jeder der sich an der Zahl 50 aufzieht, hat das Thema nicht im Ansatz begriffen

Ich erkläre es mal ganz simpel für dich. Du möchtest KIs regulieren von denen potentiell eine Gefahr ausgeht, du hast zwei Möglichkeiten das Gesetz zu formulieren.

1. Ab sofort unterliegen alle KIs, von denen potentiell eine hohe Gefahr für Menschenleben ausgeht und die durch ihre Auslegung einen hohen wirtschaftlichen Schaden anrichten könnten, den Kontrollbestimmungen im Gesetz XY Absatz Z.

2. Ab sofort unterliegen alle KIs, die in der Lage wären 50 Menschenleben zu gefährden oder einen wirtschaftlichen Schaden von mehr als einer Milliarde anzurichten, den Kontrollbestimmungen im Gesetz XY Absatz Z.

Was glaubst du bei welchen Wortlaut, könnte ein Unternehmen in den USA tatsächlich verklagt werden und welches nach nicht mal 5 Minuten von jedem Anwalt zerlegt wäre?

Wenn du jetzt übrigens der Meinung bist, es müsste jede KI mit einem solchen Bürokratieaufwand beregelt werden, auch eine die dir nur jeden Morgen neue Pornobildchen als Hintergrundbild auf dein Smartphone zaubert, dann überlege bitte noch einmal, ob ein solches Gesetz jemals zustande käme.

 

[DeusExMachina]

Du hast nichts verstanden.

 

[Piktogramm]

Also wird willkürlich entschieden was akzeptabel ist. Mag bei bewährter Technik funktionieren, aber wie stellst du dir das vor bei neuer Technik, wo es noch keine Zahlen gibt bis zu denen wir "ein Auge zudrücken".

Du unternimmst aber schon ansatzweise den Versuch das Geschriebene zu verstehen, aus dem du zitierst?
Tritt (erheblicher) Schaden bei der Steuerung von Fahrzeugen auf, gibt es keine Toleranz. Es wird da jedesmal geprüft, ob die Einhaltung der Regularien eine etwaigen Schadenseintritt vermeiden und/oder vermindert hätten können. Gewisse regulatorische Unschärfe ist notwendig um Wirksamkeit für reale Komplikation herzustellen.
Das ist weit und breit keine Willkür.

Zahlen bitte! Entsprechend schwerwiegend ist was? Bei Nebel in eine Autogruppe reingerast? Machen Menschen auch. Bei Rot über die Ampel gedüst? Machen Menschen auch. Zu schnell über die Kurve gerast? Maschen Menschen auch!

Komm von deinem Zahlenfetisch runter!
Wenn ein Mensch bei Nebel "rast" und damit einen Unfall provoziert, ist eben jener Mensch wegen unangemessener Geschwindigkeit erstens voll schuldig UND muss mit Sanktionierung rechnen. Das wird bei autonomer Steuerung ebenso sein. Wobei bei solch Autonomer Steuerung der Anbieter dann erklären muss, wieso sein Steuerungssystem das Fahrzeug schneller bewegt als das was reale Sensorreichweite + Bremsvermögen für eine Bewertung und Durchführung einer sicheren Bremsung hergeben. Die Entsprechende Gesetzgebung lautet:

§ 3 Geschwindigkeit
(1) Wer ein Fahrzeug führt, darf nur so schnell fahren, dass das Fahrzeug ständig beherrscht wird. Die Geschwindigkeit ist insbesondere den Straßen-, Verkehrs-, Sicht- und Wetterverhältnissen sowie den persönlichen Fähigkeiten und den Eigenschaften von Fahrzeug und Ladung anzupassen. Beträgt die Sichtweite durch Nebel, Schneefall oder Regen weniger als 50 m, darf nicht schneller als 50 km/h gefahren werden, wenn nicht eine geringere Geschwindigkeit geboten ist. Es darf nur so schnell gefahren werden, dass innerhalb der übersehbaren Strecke gehalten werden kann. Auf Fahrbahnen, die so schmal sind, dass dort entgegenkommende Fahrzeuge gefährdet werden könnten, muss jedoch so langsam gefahren werden, dass mindestens innerhalb der Hälfte der übersehbaren Strecke gehalten werden kann.

https://www.gesetze-im-internet.de/...der übersehbaren Strecke gehalten werden kann

Also gibt mir eine Zahl, wie häufig solche Unfälle sich noch im akzeptablen Rahmen befinden, weil als Hersteller muss ich meine Software dahingehend entwickeln.

Die Entsprechende Zahl gegenüber Verletzungen dieser Regel ist 0.
Ein Steuersystem, welches systematisch die Geschwindigkeit nicht auf ein sicheres Niveau herabsetzt, ist nicht zulassungsfähig.

Ist sie nicht, sonst würden hierzulande keine autonomen Fahrzeuge unterwegs sein, niemand kann so eine Quote garantieren.

Nur in deiner komischen Welt. Steuerungssysteme, die systematisch Verkehrsregeln verletzen oder schlicht nicht fähig sind die Regeln umzusetzen sind nicht zulassungsfähig (besser: sollten nicht zulassungsfähig sein).
Eine absolute Schadensfreiheit unter realen Bedingungen ist dabei nicht gefordert. Jeder (erhebliche) Schadensfall wird aber rechenschaftspflichtig sein.

Umgekehrt nimmst du dann aber 3000 Tote in Kauf, denn das ist die aktuelle Zahl an Verkehrstoten die geduldet wird.

Ich nehme garnix in Kauf, Unterstellungen sind ein sehr schlechtes Stilmittel.
Ich würde strengere Strafen, geringere Grenzen zum Führerscheinentzug, weniger Kfz zentrierte Infrastruktur extrem begrüßen.

Real werden autonome Steuerungssysteme im Verkehr nicht Schadenfrei unterwegs sein, es wird weiterhin eine Rechenschaftspflicht geben und die Akzeptanz gegenüber systematische Verletzung der Verkehrsregeln zur Zulassung solcher Systeme muss bei Null liegen.

 

[xexex]

Tritt (erheblicher) Schaden bei der Steuerung von Fahrzeugen auf, gibt es keine Toleranz.

Es ist nicht die Aufgabe dieses Gesetzes dies zu regeln. Der soll KIs regulieren die kaum kontrollierbar im Internet Dinge verrichten, wie sowas hier.
https://www.heise.de/news/KI-Agent-...de-Zugang-zu-Kursen-verschaffte-11406206.html

Das Gesetz ist bewusst ab 50 Personen ausgelegt, damit Autos, Kaffeemaschinen, Ampelanlagen etc. davon nicht betroffen sind und nicht durch überborderne Bürokratie jegliche Entwicklung blockiert wird.

 

[Löschknecht]

Und dann gibts da noch Dinge wie Wasser, Mehl oder gar Fette und Öle in der Küche. Auch daran sterben Menschen ständig. In der Dusche ausrutschen, Mehlstaubexplosionen sind wohl selten geworden, kommen aber immer noch vor und afaik sind Fettbrände in der Küche ein echter Dauerbrenner für die Feuerwehren.

Fettbrand? Tatsächlich kaum. Leute kochen eher weniger oder mit Air Fryer. Wenn es mal zum Problem wird dann eher weil aus Unvermögen mit Wasser gehandelt wird, sonst reicht einfach ein Topf Deckel.

In der Gastronomie so im Bereich Frittieren oder Fettbackgeräte gibt es das öfter, aber da weiß Personal in der Regel was zu tun ist.

Todesursache durch Fettbrand würde ich eher als exotisch ansehen. Und dann ist auch selten der Brand die Ursache sondern eher das Löschen mit Waasser.

 

[Bigeagle]

@Löschknecht beginnende demenz, vermutlich zu viel öl in der pfanne und dann schlafen gehen während der herd an ist. mit schränken direkt darüber kann das schon zügig in vollbrand ausarten denke ich. hier hätte das mal schief gehen können wenn es nicht zufällig bemerkt worden wäre und eine nachbarin mit zweitschlüssel für die wohnung im gleichen fahrstuhl gewesen wäre. anderes zeug in der pfanne geht ja zum glück eher nicht in flammen auf.
dass manche leute da in physik nicht aufgepasst haben, oder einfach nie selbst ... experimentiert haben und auf wachs- oder fettbrände mit einem eimer wasser losgehen wollen machts auch nicht besser

wenn es häufiger sein soll, nimm eben kerzen, abgedeckte heizlüfter oder ähnliches dazu. da küchen immer noch recht häufig ursprungsort von wohnungsbränden sind, wie entstehen die, wenn nicht durch fettbrand? toaster und elektrik?