News Notbremse für KI-Modelle: Anthropic will Stopp erst bei 1 Mrd. Dollar Schäden oder 50 Opfern

[the_IT_Guy]

Werden sie doch auch ...?

Und sind die Verfahren auch so Existenzbedrohend?

 

[Robert.]

So schnell sind wir Menschen egal.

 

[Arluin]

jede Firma die Tote in Kauf nimmt gehört sofort dicht gemacht.

 

[Relict]

Ziemlich zynisch und auch täuschend. Weil es nicht so einfach sein dürfte echte KI-verursachte Tote nachzuweisen. Daher könnten es am Ende sogar viel mehr Tote sein, als die veranschlagten 50 Opfer, wenn sie deswegen denn tatsächlich aufhören würden, was schon kaum glaubhaft ist.

 

[AwesomSTUFF]

Womit dann wohl der "Preis" eines Menschen in den USA auf $20 Mio. festgelegt wäre.
Ich bin großer Claude Fan aber da hapert es wohl irgendwo bei den Menschen dahinter...

 

[martinisnowfox]

"Fünfzig Opfern"? FÜNFZIG?!

Aber wie hieß es doch mal irgendwo? "Ein Menschenleben ist billig... Es gibt milliarden von ihnen" ...

 

[FrAGgi]

Und sind die Verfahren auch so Existenzbedrohend?

Keine Ahnung. Verfolge ich nicht aktiv. Kannst du ja selbst nachgucken, wenn es dich interessiert. Aber das war ja nicht die Ursprungsfrage udn ich glaube sowieso, dass dich die Antwort darauf nicht wirklich interessiert.

 

[d3nso]

Notbremse bei mehr als 50 Toten, na da fühlt man sich ja direkt sicher

Ist wie Nachrichten in China zu irgendwelchen Unfällen, da wird auch immer von unter 30 Toten gesprochen, wenn es nämlich mehr wären gibt es ärger für die Regionalverwaltung. Genauso wird dann auch in den USA sein, es werden immer max. 50 Tote sein mehr nicht... außer man kann das ganze nicht vertuschen

 

[quakegott]

Keine Ahnung wie man die Argumentation von BIG-Tech jetzt noch ernst nehmen darf... 50 Menschenleben sind noch innerhalb der Toleranzgrenze... yoah sind ja nur 50... Und das wofür? Für eine "Innovation" die uns potentiell noch sehr viele Sorgen bereiten wird...

 

[Arboster]

Selbst wenn diese absurden Grenzen überschritten würden, passiert da gar nichts.
Man wird Gründe finden warum es eben nicht die Schuld der Ki war.
Endlose Prozesse, Vergleiche, ...
Niemals wird ein Modell gestoppt.

Solange ChatGPT denkt, dass das Wort Erdbeere nur 3 x den Buchstaben e enthält, denke ich lieber selber oder recherchiere.

 

[Land_Kind]

Leute, was sind schon 50 Tote? Nichts, überhaupt nichts, Peanuts sozusagen.

Fragt mal Donald. Der nimmt es locker hin, wenn der Iran die eine oder andere US-Stadt auslöschen würde...

 

[ascer]

@Khorneflakes @SaschaHa @calNixo @zEtTlAh @K3ks @leipziger1979 @Gschaftlhuaba und an all die anderen, deren Beiträge man primär mit Entsetzen oder Empörung subsummieren kann, würde ich gerne 2 Fragen stellen:

1. (siehe @~Rake~ und meine Antwort direkt unter diesem Absatz) Bei welcher Technologie oder überhaupt welcher Praxis (man denke nur mal an Medizin, Impfung, ... oder Konsumgüter wie Alkohol, Zigaretten, ...) haben wir jemals einen weltfremden Standard "0,0 Schaden" verabschiedet? Die meisten Dinge - selbst übermäßiger Zuckerkonsum - kosten bedeutend mehr Menschenleben im Jahr bei sehr häufig geringeren Vorteilen.
2. Beschweren am Stammtisch über die bösen Großkonzerne ist ein einfaches Narrativ. Ich würde da aber sofort Fragen: wird sich mit gleichem Elan bei anderen Konflikten eingesetzt? Der sudanesische Bürgerkrieg beispielsweise hat schätzungsweise 75.000 Menschenleben alleine in 2025 gekostet (mehr als 3x so viel in 2025 wie der Gaza-Konflikt btw). Der Bürgerkrieg und die Konflikte mit Milizen im Kongo etwa 20.000. Die Jihadistischen Aufstände in Burkina Faso etwa 10.000 (Daten von UN, ourworldindata.org und conflictstats.com).
   
   Ich würde behaupten, die Emotionalität entlädt sich hier maßgeblich aufgrund des Narrativs und der damit verbundenen Ideologie - nicht wegen der tatsächlichen Qualität oder Quantität des Unrechts.

So einfach isses halt nicht. Autos (das Transportwesen allgemein) sind letztendlich ein elementarer Baustein gewesen für unsere heutige moderne Gesellschaft. Das hat direkt und indirekt sicher zu Millionen Toten geführt - und gleichzeitig indirekt wahrscheinlich ein vielfaches davon gerettet. Das wird aber niemand jemals seriös beziffern können.

Bei KI wird es das gleiche sein. Während man den direkten, kurzfristigen Nutzen vielleicht noch halbwegs quantifizieren kann, hört es beim langfristigen Nutzen sofort auf. Das ist einfach unmöglich vorherzusehen.

Durchaus korrekt - genau das zeigt ja aber, dass man bei technologischem Fortschritt (zurecht) ein gewisses Maß an Risiko akzeptiert. Sonst wären wir nie aus der Höhle heraus gekommen...

...und gerade bei KI kann man schon relativ gut abschätzen, wohin die Reise geht: sehr nützlich für sehr, sehr viele Bereiche. Das bedeutet im Umkehrschluss natürlich nicht, man sollte KI gar nicht regulieren. Es bedeutet aber auch nicht ein vollkommen weltfremdes "0,0 Schaden", was wir noch nie, bei keiner einzigen Technologie, als Maßstab gesetzt haben.

Müsste man die Verkehrsunfälle durch Pferdekutschen im Jahr 1900 prüfen lassen.
PS: In New York waren es offenbar 200 Verkehrtote in dem Jahr, also 75% höher als heute.

Autos sind eben vergleichsweise ziemlich sicher. Vom Pferd fallen oder bei Massenverkehr von einem panischen Pferd getreten oder niedergetrampelt werden, sind da schon ziemlich reale Gefahren.

 

[Perdakles]

Anthropic arbeitet vor dem geplanten IPO jetzt einfach nach dem Motto "There is no such thing as bad publicity."

Einfach schön jede Woche eine neue Horrormeldung bringen, um zu zeigen, wie mächtig die eigene AI SI ist. So treibt man den zukünftigen Börsenwert in die Höhe. Mehr ist zu dieser Meldung nicht zu sagen.

 

[wagga]

Wie wärs mit 0 Toten/Verletzten? Nur so ein Vorschlag.

Da müsste man aber auch bei Medikamenten auch anwenden, da müssten einige schon längst vom Markt sein.

 

[zEtTlAh]

Ich würde behaupten, die Emotionalität entlädt sich hier maßgeblich aufgrund des Narrativs und der damit verbundenen Ideologie - nicht wegen der tatsächlichen Qualität oder Quantität des Unrechts.

Und wenn eine KI entscheidet, deine beiden Eltern, deine Frau und deine drei Kinder sind ein akzeptables Opfer... Dann findest du das auch noch gut, richtig ?

 

[K3ks]

@ascer: Hmmm? 👀 Huh-uh... Ich hab nichts gegen AI, naja, fast nichts:

Mehr Sorgen macht mir das Klima, bestimmt nicht gut wie da im AI Arms Race vorgegangen wird... 🥴
Wenn die erneuerbare Energie nehmen und alles andere an Kohlenstoffdioxidausstoß usw. doch nur ausgleichen würden... Die Monster an Firmen, Staaten, Gier, sehen das wohl anders.

Hmja, Slopflut begeistert mich jetzt auch nicht unbedingt... Ansonsten bin ich pro ""AI"" und AI, aber derzeit sind wir ja noch bei LLM-Toastern, jedenfalls finde ich "die Technologie" gut und sehe die Vorteile:

Das Zeug hat schon vor... Stand: 2 Jahren – einige Prozesse in Firmen wo Bekannte arbeiten... Um den Faktor 5 beschleunigt.

Das man kein Omelett machen kann ohne ein paar Eier zu zerdeppern ist mir klar.
Und hier schreibe ich auch dass Unfälle auch unter Menschlicher Aufsicht passieren:

zwangsläufig werden solche Dinge durch AI passieren, passiert auch unter menschlicher Aufsicht.

Beschweren am Stammtisch über die bösen Großkonzerne ist ein einfaches Narrativ.

Trifft aber dann so gut wie immer die Richtigen. ^^
Immer feste auf die Konzerne kloppen, trifft immer die Richtigen!

Ich würde da aber sofort Fragen: wird sich mit gleichem Elan bei anderen Konflikten eingesetzt?

Welcher Elan? 🥴

Bürgerkrieg

Ich interessiere mich primär nur für den Ukrainekrieg, vlt. liegt das auch daran dass ich aus der SU bin oder die Ukraine nur grob 600km von 'Schland entfernt ist... Vlt. sind mir ein paar Groschen aus der Tasche gefallen, tödlich auf russische Köpfe in der Ukraine, wer weiß... Hier hast du meinen Elan.
Und deine Kriegsliste kannst du ewig so weiterführen.

Ich würde behaupten, die Emotionalität entlädt sich hier maßgeblich aufgrund des Narrativs und der damit verbundenen Ideologie - nicht wegen der tatsächlichen Qualität oder Quantität des Unrechts.

Ahhh, ein Wettbewerb, soll man sich jetzt also "nur" über die schlimmsten Sachen aufregen?
Luxusproblem schrumpfende Packungsgröße Haribo also egal weil Kinder irgendwo auf der Welt verhungern? Klar ist ersteres wahrlich ein Luxus-"Problem" und Hunger solle am besten sofort angegangen werden...

E: Palantir und ältere Verwurstung ist auch... 🤮 Glaub nicht dass das weggehen wird...

 

[jurrasstoil]

50 Tote sind es wert, das nehmen wir hin. 51 Tote sind ein Problem und man sollte tätig werden!

Bin ich ganz ehrlich, so handhabe ich das bei meinen persönlichen Abwägungen auch immer. 50 Tote ist eine gut gesetzte Schmerzgrenze, da gehe ich auch ungern drüber.

 

[Ripcord]

Mit 50 sind bestimmt US-Amerikaner gemeint. In anderen Ländern gibt es vermutlich nach oben keine Grenzen?

 

[Stanzlinger]

Da müsste man aber auch bei Medikamenten auch anwenden, da müssten einige schon längst vom Markt sein.

Das gilt aber praktisch für jedes Medikament. Und das nimmt man freiwillig - also riskiert man die Nebenwirkung.

 

[Petoschka]

Da lohnt sich ein Besuch ja nur, wenn mehr als 50 Leute bei Anthropic arb… sowas sagt man nicht. Pfui!