News Notbremse für KI-Modelle: Anthropic will Stopp erst bei 1 Mrd. Dollar Schäden oder 50 Opfern

[Piktogramm]

wenn ein vorhersehbares und unmittelbares Risiko für Schäden von mehr als 1 Milliarde US-Dollar oder für mehr als 50 Tote oder Schwerverletzte besteht. Die Risiken beschränken sich auf drei Bereiche: Das Erstellen biologischer Waffen, den Kontrollverlust über ein Modell und Cyberattacken.

bzw. im Original von Politivo

The risk must stem from the creation or release of a biological weapon, the model evading its developer’s controls or a cyberattack.

Wieso regen sich alle über die 50 als Zahl auf? So wie der Text formuliert ist, greift diese Schwelle von 50 Betroffenen sowieso nur für drei spezifische Fälle, dabei ist einer "außer Kontrolle geraten" nichtmal scharf definiert und kann wunderbar abgestritten werden. Abseits davon wäre das Ganze unreguliert.

Als "AI" Menschen in Psychosen bestärken.. kein Problem! Unterstützende bis eigenständige Wirkung bei kinetischen, explosiven Wirkmitteln.. kein Ding! Steuerung von Anlagen/Maschinen mit Schadwirkung.. Well shit happens!

Auch die Einschränkung, dass da Ganze jeweils modellspezifisch ist. Als würden die Modelle nicht eh schon allein für den Aktienkurs Quartalsweise mit neuer Nummer/Namen versehen werden und als "neues Modell" gelten.

 

[K3ks]

KI für Kriegsführung wird bereits offen getestet

Ist seit Jahren aktiv im Einsatz...

 

[w1ldr3dx]

50 Tote in welchem Zeitraum ? Pro Tag ? Pro Stunde ? Ich meine, wenn alle 60 Minuten jemand vergiftet wird, ist ja dann nicht schlimm...

das ist SO BESCHEUERT ! Das Limit muss 0 sein.

Klingt wie Parship.

 

[zEtTlAh]

@w1ldr3dx Die haben sich selbst schon den Knieschuss verpasst:

„Alle 11 Minuten verliebt sich ein Single über Parship“

Betonung liegt auf "EIN" Single... und nicht zwei

 

[Hardware-Fan]

1 Milliarde finde ich auch interessant, "Darunter machen sie es nicht".

Es sind halt nicht ihre Schäden. Dafür aufkommen wollen sie ja auch nicht.

Ist seit Jahren aktiv im Einsatz...

So weit ich weiß ist es bei Drohnen aber so, dass die KI mögliche Ziele markiert und der Mensch entscheidet.

 

[n8mahr]

Alle, die meinen, das wäre "präzedenzlos" vergessen offensichtlich, was seit Ewigkeiten auf der Welt so geschieht.
Wenn ich ein konkretes Beispiel aus der jüngeren Vergangenheit erwähne, werde ich hier gesperrt. Daher lasst es mich mal so sagen: "Kollateralschäden" sind von den Betroffenen gefälligst hinzunehmen.

 

[roaddog1337]

Für die USA zählen Menschenleben leider nichts. Hat seit den 2 Atombomben über Japan neue Dimensionen erreicht. Die Sklavengeschichte vorher lassen wir einfach aus^^.
Seit dem Vietnamkrieg bis zum heutigen Irankrieg keine Verbesserung:

Ca 170 Tote Kinder/Mädchen im Angriffskrieg gegen den Iran im Februar 2026: Schulangriff USA
Den westlichen Medien war das ziemlich egal, war ne kleine news auf den roten (farblich) news-seiten in GER. Hat eben Palantir falsche Daten verarbeitet.

Wenn man, wie ich selbst 2 Kinder hat, kann man nur ansatzweise solche Taten erahnen und erfühlen.

An der Front zwischen Russland und der Ukraine (ebenfalls durch Palantir und Starlink unterstützt) rechnet man leider auch mit Kosten pro Mensch. Killingzone... blablabla... Ganz übel.

KI spielt leider im Iran- und im Ukrainekrieg eine bedeutende Rolle, man weiß zum Glück noch nicht wie das weiter gehen wird.

Schade dass man hier in einem IT - Forum über solche politische Dinge schreiben muss.

 

[DeusExMachina]

Hatte Scam Altman nicht gerade erst in einem Interview gesagt
‘The world should accept some bad things happening’ for the benefits of AI


Passt doch zu dieser Ach ein paar sind okay Philosophie

 

[supermanlovers]

Naja jede Technologie erzeugt auch Schäden und Tote. Es ist unvermeidlich. Autos, Leitern, Geschirrspülmaschinen oder Atombomben.

Ich erinnere mich das die Bundesregierung nach Fukushima eine 100% sichere Energieversorgung erreichen wollte. Völlig unmöglich.

 

[Nagilum99]

50 Tote sind es wert, das nehmen wir hin. 51 Tote sind ein Problem und man sollte tätig werden!

Polemischer Blödsinn. Irgendwo musst du hat Grenzen setzen - oder eben nicht, dann sind auch 100 egal.
Natürlich setzen sie die Limits (freiwillig) so hoch, dass es unwahrscheinlich ist, dass sie gerissen werden - es soll ein Notfallmechanismus sein. Alles andere wäre ziemlich dumm.

...hast du schon E-Scooter und KFZ verboten? Flugzege, E-Bikes... alles kostet Menschenleben.

 

[XCPTNL]

Erinnert irgendwie an die Szene aus Fight Club mit dem Rückruf bei defekten Fahrzeugen...

 

[scryed]

Die Firmen haben zu viel Macht. Viel zu viel Macht. Das wird noch blutig enden.
Vor kurzem habe ich ein paar Artikel gelesen,

Das sieht man am besten daran das die Buden direkt in Nachbarschaft zu Wohnsiedlungen gebaut werden wo es den Anwohnern die Luft verpesstet das Wasser verseucht den Strom klaut und unsäglich laut ist..... Und die örtlichen Behörden erlauben ki Leuten das auch noch.... Da gibt es gewählte Volksvertreter die entscheiden wo es gebaut wird werden so geschmiert das sie ja und amen zu allen sagen

 

[Nuklon]

Niemand hat den SB53 Gesetzentwurf gesucht. Niemand hat den Grund für die Vorschläge genannt. Leider ist der Artikel einer aus der Sorte "Heftig & Co". Einfach nur Emotionen triggern.
Einer der schlechteren CB Artikel.

 

[Scirca]

Wie wäre es den ab 3, da kann man von einer Serie ausgehen. Und auch nicht Unfälle sondern Tote wo die Ki eine Teilschuld betrifft.

Also nicht das einer sich erklären lässt wie man eine Motorsäge repariert und dann macht er sich damit selbst platt.

 

[HtOW]

Jetzt weiß man zumindest wieviel für die ein Menschenleben wert ist

Aber nur aus Unternehmenssicht! Das schlimmste dürfte ja PR/abspringende Kunden sein. Das Leben selbst interessiert doch da oben die wenigsten.

 

[subcontractor]

Hm, finde ich eine spannende Frage, wie viele Tote Menschen eine Verbesserung rechtfertigen.

Du befindest dich auf ganz dünnem Eis.

Es gibt auch Leute die sagen das es legitim ist alle heute lebenden Menschen auszulöschen wenn dadurch der Fortbestand der Menschheit gesichert wird.

Was sind 8 Milliarden tote auf der Erde von heute wenn man dadurch viele hunderte Milliarden Leben in der Zukunft retten könnte die heute noch nicht geboren sind?

https://de.wikipedia.org/wiki/Longtermism

Longertermism ist abzulehnen weil es ein Bestandteil der TESCREAL Ideologie ist welche bei rechten Amis im Silicon Valley immer populärer wird.

 

[Aerobraking]

Du befindest dich auf ganz dünnem Eis.

Versteh mich nicht falsch, ich finde diese Aussagen von Anthropic auch verrückt.

Aber wie ich schon meinte existieren ja viele Dinge auf dieser Welt (die sich mehr oder weniger von selbst so ergeben haben), wo ganz praktisch Menschen durch sterben, wir das aber in kauf nehmen und es auch nicht allzu sehr in Frage stellen (Verkehr, medizinische Versorgung, usw.). Da habe ich mich einfach gefragt wie an sowas eigentlich herangegangen werden würde, wenn man sich das vorher "überlegt".

Sind Impfungen nicht auch sowas in der Art?
Wir schützen viele, nehmen aber in kauf, das ein paar einzelne dadurch schwere Nebenwirkungen oder sterben. Ich bin auch klar für Impfungen. Bei AI wäre ich klar dagegen sowas in kauf zu nehmen, aber das diese Art von Diskussion wäre es, die man darüber führen "könnte", oder?

 

[cbforum.scooter]

Das so was diskutiert wird zeigt gut, wie kaputt die Menschheit mittlerweile ist.

 

[subcontractor]

Sind Impfungen nicht auch sowas in der Art?
Wir schützen viele, nehmen aber in kauf, das ein paar einzelne dadurch schwere Nebenwirkungen oder sterben. Ich bin auch klar für Impfungen. Bei AI wäre ich klar dagegen sowas in kauf zu nehmen, aber das diese Art von Diskussion wäre es, die man darüber führen "könnte", oder?

Du bist heute echt in Laune solche Kneifzangen Themen weiterzudenken :-)

Klar, solche Diskussionen müssen geführt werden damit ein breiter Konsens entsteht wie wir damit umgehen können.

Bei Impfungen möchte ich aber aussteigen weil das Thema Dank der diversen Kampagnen von Impfgegnern bzw. Schwurblern völlig verbrannt ist

 

[BOBderBAGGER]

Polemischer Blödsinn. Irgendwo musst du hat Grenzen setzen

ja bei null. Sobald da irgendwas aus dem Ruder läuft Stecker raus und ein ernstes Gespräch mit dem Anbieter der Modelle Führen.

...hast du schon E-Scooter und KFZ verboten? Flugzege, E-Bikes... alles kostet Menschenleben.

Wenn all die aufgelisteten Dinge von sich aus Menschenleben kosten warten wir üblicherweise nicht bis zu einer magischen grenze bevor wir da gegensteuern.