News Notbremse für KI-Modelle: Anthropic will Stopp erst bei 1 Mrd. Dollar Schäden oder 50 Opfern

[K3ks]

mindestens seit 1999.

Seit schon immer? 🥴 Warum ausgerechnet 1999...

Fight Club nie gesehen?

Ich bin 12...

 

[Ranayna]

Selbstkontrolle der KI Firmen wird niemals funktionieren.
Der Gesetzgeber muesste eingreifen. Das wird aber insbesondere in den USA nicht passieren. Die Tech-Bros wissen wie man Trump bauchpinselt. Und die KI Firmen tragen die US Wirtschaft.

Die Firmen haben zu viel Macht. Viel zu viel Macht. Das wird noch blutig enden.
Vor kurzem habe ich ein paar Artikel gelesen, die einen Vergleich mit der US Situation um die letzte Jahrtausendwende gezogen hat. Das sogenannte "Gilded Age", das "vergoldete Zeitalter" (https://de.wikipedia.org/wiki/Gilded_Age)
Das war frappierend.
Die vergoldete Zeit endete im Krieg. Ich befuerchte das wird diesmal nicht viel anders ausgehen koennen.

Omis wurde verklagt, weil sie MP3s geladen haben. "KI" Butzen saugen einmal alle Torrents.

Die Omis wurden in Deutschland verklagt. Wieviele lokale KI Firmen haben wir?

 

[p4z1f1st]

Ich habe einen Vorschlag für einen Zusatz:
"Die maximal 50 Toten dürfen nur Individuen aus dem Entwicklerkreis betreffen. Ansonsten liegt die Grenze bei Null."
Na, klingt gut?

 

[~Rake~]

Wie wärs mit 0 Toten/Verletzten? Nur so ein Vorschlag.

Ergänzung (Montag um 12:02)

Müsste man die Verkehrsunfälle durch Pferdekutschen im Jahr 1900 prüfen lassen.
PS: In New York waren es offenbar 200 Verkehrtote in dem Jahr, also 75% höher als heute.

So einfach isses halt nicht. Autos (das Transportwesen allgemein) sind letztendlich ein elementarer Baustein gewesen für unsere heutige moderne Gesellschaft. Das hat direkt und indirekt sicher zu Millionen Toten geführt - und gleichzeitig indirekt wahrscheinlich ein vielfaches davon gerettet. Das wird aber niemand jemals seriös beziffern können.

Bei KI wird es das gleiche sein. Während man den direkten, kurzfristigen Nutzen vielleicht noch halbwegs quantifizieren kann, hört es beim langfristigen Nutzen sofort auf. Das ist einfach unmöglich vorherzusehen.

 

[xexex]

Wie wärs mit 0 Toten/Verletzten? Nur so ein Vorschlag.

Kann niemand garantieren. So makaber solche Grenzen klingen mögen, es ist das gleiche wie mit dem autonomen Fahren. Wenn wir sowas erst dann erlauben, wenn so ein System garantiert nie einen Fehler macht, wird es das niemals geben.

Zugegeben der Vergleich hinkt ein wenig, im Straßenverkehr sterben jeden Tag Menschen, aber man will wohl auch hier realistische Vorgaben. Auf den aktuellen US Stand bezogen, bedeutet es immerhin "irgendwelche" Grenzen, solche gibt es aktuell nämlich gar nicht.

 

[Kaufmannsladen]

Müsste man die Verkehrsunfälle durch Pferdekutschen im Jahr 1900 prüfen lassen.
PS: In New York waren es offenbar 200 Verkehrtote in dem Jahr, also 75% höher als heute.

Per Capita, nicht absolut.

Und in den 1900er Zahlen sind auch Todesfälle "durch Pferde", also auch der unaufmerksame Hufschmied. In der selben Quelle steht übrigens, dass 1880 in New York 41 Pferde gestorben sind ... pro Tag.

 

[Marcel55]

Ehm bitte was?

Soll das ein Ragebait sein oder wie?

 

[iSight2TheBlind]

Solange die Interkontinentalraketen noch in der Luft/im All sind ist noch keiner gestorben, ist also noch kein Grund der KI den Saft abzudrehen. Was dann passiert wenn die Kernwaffen in Moskau und Washington einschlagen... okay, das kann man sich vorstellen, aber erst danach ist das Sicherheitslimit für die KI erreicht!

 

[Minthera]

Ach, das ist doch nur noch perverser Kapitalismus in Reinform.

 

[conspectumortis]

1 Toter wäre schon zuviel. Stell dir mal vor Trump würde dadurch sterben, was dann die für einen Aufschrei hätten

 

[steirerblut]

Die Schwellen sind halt so hoch gewählt das sämtliche bereits vorhandenen Fälle nicht greifen würden. Im Endeffekt ists proaktive Regulierungslobbyarbeit. Anthropic weigert sich föderale Aufsichten zu akzeptieren, definiert selbst Bedingungen und schafft nebsbei noch ein Umfeld das Startups den Zugang erschwert. Jetzt kannst dir die Frage stellen wie lang es dauert bis Privatadressen von Bundesrichtern in irgendwelchen Memdumps von AI Labs auftauchen. Die Entscheidung dort hin zu verlagern macht den Prozess Träge und Anfällig. Das Schwellen erst mit extreme Schäden erreicht werden machts nicht besser. Der Interessenskonflikt ist real.

 

[Umlüx]

50 Normalos oder 50 CEOs? da muss man aber schon unterscheiden!!11

 

[SavageSkull]

Beim Auto oder modern beim selbstfahrenden Auto ist es schwer, aber man könnte immer argumentieren, das man den Status quo verbessert, also die Anzahl der Toten im Jahr reduziert.

Wieviele Tour gibt es aktuell durch dumme Software? Sind dann 50 eine Verbesserung?

 

[DaLexy]

Naja dann soll er sich gleich daran halten und Claude Offline nehmen denn 150 ist gößer als 50! -> https://en.wikipedia.org/wiki/2026_Minab_school_attack

 

[the_IT_Guy]

Die Omis wurden in Deutschland verklagt.

Es gab auch Weltweit genug absurde Fälle, wo gegen "Raubkopierer" mit unglaublicher härte vorgegangen war.

 

[Grundkurs]

50 Tote sind ein Opfer das Anthropic bereit ist andere bringen zu lassen *lol
Total irre, kann man sich nicht ausdenken.

 

[xexex]

Stell dir mal vor Trump würde dadurch sterben, was dann die für einen Aufschrei hätten

Die Jubelschreie würde man bis hierhin hören.

 

[wern001]

50 Tote/Schwerverletzte oder ein finanzieller Schaden von 1 Milliarde Dollar.

Jetzt weiß man zumindest wieviel für die ein Menschenleben wert ist.

Solche berechnungen gibt es schon lange.
z.B. Automobilindustrie: Da läuft es dann so. machen wir einen rückruf oder zahlen wir ein paar leuten eine entschädigung.

 

[FrAGgi]

Omis wurde verklagt, weil sie MP3s geladen haben. "KI" Butzen saugen einmal alle Torrents. 🤷‍♀️

Werden sie doch auch ...? Es gibt doch unzählige laufende oder angestrebte Klagen gegen KI Anbieter wegen Urheberrechtsverletzungen.

 

[steeve_hgw]

Wie viele Amerikaner sterben täglich durch Schusswaffen? Ich mein ja nur...