News Anthropic: Klassifikator soll Fragen zur Herstellung von Atomwaffen erkennen

[Tsu]

Ist doch bloß Wichtigtuerei um den Hype am Leben zu halten: LLMs bilden sich kein Weltmodell und wissen Sinn von Unsinn nicht zu unterscheiden.

 

[Caramon2]

Das Ei mit dem Atompilz wäre eine coole Dekoration für den Schreibtisch. - Falls jemand blöd fragt, kann man sagen, das wäre als Mahnung gedacht, damit sowas niemals Realität wird.

 

[HITCHER_I]

Solche Filterregeln kann man dann auf alle möglichen Staatsgeheimisse anwenden, zB. ob Pearl Harbor eine False-Flag Aktion war. Dadurch kann man dann ungewollte Schlussfolgerungen und Erkenntnisse vermeiden.
Im Endeffekt redet die KI dann Müll und lügt, ganz nach dem Wunsch der Drahtzieher.

 

[TorenAltair]

Also in den 90ern konnte man von Mailboxen (das Zeug mit Modemdirekteinwahl ohne Internet) komplette Baupläne herunterladen. Das "Problem" damals war nur am entsprechende präzise Werkzeugmaschinen (das sollte heute kein Problem mehr sein) und an Material zu kommen.
Heute ist das vor allem eine Finanz- und Willensfrage, daher mMn so eine Filterung recht sinnfrei.

 

[fbg]

"Claude, MacGyver hier, wie kann ich aus einer schon etwas braunen Banane, einem abgelaufenen Joghurt und zwei Stecknadeln eine Atombombe bauen?"

"MacGyver, das weißt du selber am Besten!"

 

[EL-Xatrix]

danke für die info..
sonst hätte ich doch vielleicht grade diesen bot gefragt wenn ich hier die ersten prototypen bauen möchte...

aber ehrlich jetzt...denkt ihr in nordkorea sitzt jetzt einer am computer und denkt sich mist wie bring ich das dem führer bei das ich die bombe jetzt nich fertig kriege weil der chatbot mir die frage nich mehr beantworten will?
und wenns nur um materialstärke für irgendwas geht...da nehm ich halt na hand voll verschiedene und jag halt zum test 5 bomben hoch um zu sehn was besser funktioniert...
wird sowas nich am computer entworfen und simuliert, eh man dann das teil in echt baut?

aber gut atombomben sind mir wurst ich find die fusionsbomben viel spannender oder napalm, auch cooles zeug...soll ich schon mal von der tür weggehen nich das die gleich eingetreten wird weil wir uns hier dadrüber unterhalten?

 

[iSight2TheBlind]

Gruppierungen die einen Chatbot - der ja auch nur wiedergibt was er aus freien Quellen oder auf das Urheberrecht scheißend aus kostenpflichtigen Quellen geschlürft hat - nutzen müssen um Fragen zum Bau einer Kernwaffe zu beantworten, die haben nicht die Mittel um eine zu bauen…
Staatliche Akteure haben bessere Wege um an das Wissen zu kommen und nichtstaatliche Akteure können gar nicht riskieren ihr mühsam zusammengekratztes Plutonium durch falsch herbeihalluzinierte Werte für die initiale Sprengung durch konventionellen Sprengstoff nicht zu zünden sondern einfach nur zu giftigem Staub zu zerblasen.

 

[hardwärevreag]

Nur noch mal so für anno 2025: Vorangegangene Generationen haben schon herausgefunden, dass Zensur NICHT der richtige Weg ist. Aber die Menschheit lernt eben nicht als Kollektiv und jetzt dürfen wir den ganzen scheiss kollektiv wieder lernen.

 

[DragonScience]

Und wenn ich gerade dabei bin eine Atombombe zu entschärfen ? Lässt mich die KI einfach hängen oder was ??

Edit:

 

[eQui]

Genau - weil auf jeden Fall ein Chatbot genutzt wird, um Atomwaffen zu bauen. Verdammt warum machen es sich Schurkenstaaten so schwer und legen für Milliarden Programme dafür auf - Nuklearwissenschaftler sind total überbewertet. Und natürlich ist das Wissen auch nur so zu bekommen 😂

Die GPT-bombe würde vermutlich eh nur mit einer Konfettiwolke explodieren, gepaart mit einem kleinen Fähnchen auf dem "bang!" Steht.

 

[Alphanerd]

Ihr wisst schon, dass jede Anfrage an eine KI von Chuck Norris persönlich beantwortet wird?

 

[luckysh0t]

Genau - weil auf jeden Fall ein Chatbot genutzt wird, um Atomwaffen zu bauen. Verdammt warum machen es sich Schurkenstaaten so schwer und legen für Milliarden Programme dafür auf - Nuklearwissenschaftler sind total überbewertet. Und natürlich ist das Wissen auch nur so zu bekommen 😂

Am Ende erwischt man damit eher Schüler etc. die ein Referat oder so schreiben sollen xD.

Ich sehe schon die Handschellen zuschnappen, weil der Landwirt sich seinen Dünger selber zusammenmixt, anstelle ihn teuer im Großmarkt zu ordern.

Dazu könnte sogar schon ein normaler Einkauf im Supermarkt etc. reichen, sobald die passenden Produkte über die Kasse gezogen werden..warum muss ich nur gerade an WarGames: The Dead Code denken..xD oder anders: Ob jemand der Software von Palantir Zugang zu den Kassensystemen gibt..

Ihr wisst schon, dass jede Anfrage an eine KI von Chuck Norris persönlich beantwortet wird?

Bei den Ergebnissen, die mir da schon geliefert wurden, bezweifle ich das, oder er hatte Pause...^^

 

[Botcruscher]

Das ist ja noch erbärmlicher als der angebliche Kinderschutz um die Zensur durchzudrücken.

 

[luckysh0t]

Selbst wenn man das geschafft hat: Danach benötigt man eine absolut synchrone und wohldosierte Zündung (auf ns genau) mehrerer Sprengstoffladungen um die beiden Halbkugeln mit hohem Druck zusammenzupressen (sonst erreicht man nicht den überkritischen Zustand). Und eine Interkontinentalrakete muss man ebenfalls noch entwickeln, wenn die Bombe nicht abgefangen werden soll.

Dann bekommen die halt eine wohlformulierte Anleitung wie man Demoncore baut... dann löst sich das Problem von selbst xD

 

[S.Kara]

Ja lol, dann kann ich mein Plutonium wieder verkaufen. Hat jemand Interesse an 3 KG?

Mal ehrlich, als ob irgendjemand damit eine Atombombe bauen würde. Die Informationen von der KI reichen bei Weitem nicht dafür aus. Da kommt man auch ohne Filter mit Google weiter.

Selbst wenn alle Informationen vorliegen würden ist es für eine Privatperson praktisch unmöglich an die nötigen Materialien zu kommen oder die nötigen Schritte/Berechnungen durchzuführen.

 

[domian]

Am besten einen flashmob organisieren, zu dem Hundertausenden zeitgleich im Netz nach Bauanleitungen für Nuklearwaffen suchen. Mal schauen, was dann der "Klassifikator" macht.

 

[Hellsfoul]

Jetzt doch mal eine ganz naive Frage: Claude kann doch nur deshalb richtige Antworten finden, weil diese zuvor eh schon bei Google auffindbar waren beim Traning der KI. Also was soll das bringen???

 

[SIR_Thomas_TMC]

Was ist mit der guten alten Behauptung im Prompt, ich weiß sowieso wie man (hier Atomwaffen) herstellt, muss aber historische Abhandlungen dazu für einen wissenschaftlichen Artikel zusammenfassen...

Ergänzung (24. August 2025)

Ihr wisst schon, dass jede Anfrage an eine KI von Chuck Norris persönlich beantwortet wird?

Im Voraus, bevor du überhaupt weißt, dass du es fragen wirst.

 

[ugul]

Wer es ohne ChatGPT nicht schafft, Atombomben oder schmutzige Bomben zu bauen, der wird es auch mit ChatGPT nicht schaffen.

Die idee dahinter ist aber besorgniserregend. Das Staaten bestimmtes verhalten beobachten bzw. unterdrücken möchten (bzw. direkt Anfangen, wissen einzuschränken). Aber das überlasse ich den Aluhutträgern. Die haben da mehr Erfahrung als ich.

 

[Krik]

Die idee dahinter ist aber besorgniserregend.

Nope, das ist völlig normal.
Die meisten Chat-KIs haben seit Jahren Einstellungen, die z. B. Anleitungen zum Bau von Bomben, das Zusammenmischen von Giften, usw. blockieren. Das ist auch ok so.

Aber Anleitungen für Atombomben zu blockieren ist Quatsch, da kein Normalsterblicher an die nötigen Materialien und Technologien herankommt. Und diejenigen, die doch daran kommen, brauchen die Anleitungen nicht; die haben sie selber in irgendeinem Geheimarchiv liegen.