News Massenüberwachung und autonome Waffen: Anthropic widersetzt sich dem Ultimatum des Pentagon

Heute habe ich gelernt, dass Claude beim US Militär im Einsatz ist. uff.

ChatGPT hab ich erst kürzlich von meinen benutzten Anwendungen gestrichen. Hier und da fand ich es hilfreich, doch streng ich dann lieber mal bei gewissen Sachen - wo ich das auch kann - ^^ meine eigenen grauen Zellen weiterhin an. Ich werde auch nicht jünger.

aid0nex schrieb:
Einerseits inszeniert sich Trump als Friedensstifter und andererseits dann dieser neue Name...

Macht doch perfekt Sinn. "Verteidigungsministerium" gibt ja sonst die generelle Richtung vor, wie die Narrative gestrickt werden, wenn es zum Militäreinsatz kommt. Es setzt unterbewusst voraus, dass immer ein Defensivfall vorliegen muss. Die Bush Regierung hatte sich endlos darin verstrickt und ich denke Viele hier erinnern sich noch an Michael Moore's Fahrenheit 9/11.

"Verteidigungsministerium" macht die USA Außenpolitik vorhersehbar, berechenbar und schränkt auch diplomatisch/geopolitisch sowie innenpolitisch gegen die Opposition massiv ein.

"Kriegsministerium" ist auf der anderen Seite martialisch und deutet eben auch an, dass Erstschlagkapazität durchaus im Arsenal ist und davor nicht zurückgeschreckt wird. Das gibt jeder Verhandlung deutlich andere Gewichtung.

Auch in Hinblick auf zukünftige US-Alleingänge, wo es eben keine NATO-Abstimmungen mehr zu allem gibt, macht es Sinn. Von der massiven und wichtigen Signalwirkung für die Alliierten mal ganz abgesehen. Die ganze Grönland "Geschichte" wurde eben nicht abgetan. Trump wurde für Voll genommen.

Falls es zu einem Krieg kommt und Trump setzt ja sehr viel auf Frieden, wird das auch in den Nachrichten dann schnell anders klingen, wenn das Ministerium genannt wird.

Drehen kann er sowieso alles irgendwie. Mega wichtig sind, wie es aufgefasst wird, wie es klingt und wie es ausschaut. Das sieht man ja auch gut an Personen, wie dem Minister, oder dem (edit: Chairman der) Joint Chiefs of Staff, der dann auch so aussehen muss, was man sich von der Rolle/dem Amt vorstellt. (look the part)
 
  • Gefällt mir
Reaktionen: Kitsune-Senpai
@LamaMitHut Betonung in deinem Satz liegt auf noch.
Ergänzung ()

wagga schrieb:
autonome Waffen wie geisteskrank. Kranke Welt.:confused_alt:🤬😭💩💩🤮🤢🤮

Dann muss niemand mehr die Verantwortung übernehmen, "den Knopf gedrückt zu haben".
"War die KI" 🤷🏻‍♂️ und fertig
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Kitsune-Senpai und areiland
Grundsätzlich kann resp. könnte man die Haltung von Anthropic gut finden.

Das Problem ist doch viel mehr, dass andere Länder und Militärs sich wohl auch kaum in Sachen KI zurückhalten. Wollen "wir" (wir, als westliche Welt) tatsächlich uns selbst beschränken und auf KI verzichten? Daher bin ich der Meinung, dass auch unser Militär KI nutzen soll! In welchem Rahmen auch immer. Dass wir irgendwelche Mechanismen benötigen um das ganze im Griff zu haben versteht sich von selbst. Aber dazu müssen sich Profis Gedanken machen.

Eine heile Welt mit ewigem Frieden gibt es leider nicht. Davon können wir träumen, aber etwas realistisch müssen wir bleiben.
 
Vielleicht kommt ja irgendwann mal eine KI Firma mit noch mehr Ethik daher und bezahlt am Ende noch die Urheber der Daten die sie ihrem Modell verfüttern. Aber immerhin ein Anfang.
 
  • Gefällt mir
Reaktionen: xpad.c
  • Gefällt mir
Reaktionen: Kitsune-Senpai, zhompster, Alphanerd und 2 andere
kann dann nicht einfach mal die EU Anthropic mitteilen, wenn sie nach "unseren" Werten handeln, sind sie hier willkommen? :)
 
  • Gefällt mir
Reaktionen: Kitsune-Senpai und Col. Jessep
Rock Lee schrieb:
Generell wird es eh mal Zeit, dass die USA politisch abgewickelt werden und die eine Verfassung bekommen, die auch auf dem Papier das Siegel "Demokratie" wert ist.
Ja endlich mit Voter-ID und Listenplätzen wie bei uns, der besten Demokratie der Welt!
 
aid0nex schrieb:
Zum 2332165423 mal: Einsatzmöglichkeiten von KI haben nichts mit wirtschaftlich erhöhten Erwartungen zu tun. Es geht nicht darum, ob KI einen Nutzen hat, sondern ob man diesen Nutzen derart monetarisieren kann, dass der initiale Invest auch returned wird.
Leider ist auch das völlig nebensächlich in derart kriegerischen Zeiten. Entscheidend ist nur, wie viel Kuchen es vom "Verteidigungsbudget" geben kann. Und das sind durchaus hunderte Milliarden jährlich. Und da rede ich nur vom amerikanischen... auch sind da direkte Gewinnler, also die Rüstungskonzerne noch nicht mal eingerechnet


ps. zum Thema -> und ich vermute fast, dass es hierbei auch nur um Haftungsübernahmen und oder ganz banal um Geldmittel geht - wenn der Donald sagt, noch mal so viel und keine Sorge, bei unerwarteten Nebenwirkungen, ist auch der Hindernisgrund fix aus der Welt...
 
tree-snake schrieb:
Gibt wohl doch genug KI-Einsatz Möglichkeiten die sich zu lohnen scheinen. Nix KI-Blase . Wir stehen erst am Anfang.
Da sagt ja auch keiner was, aber mehrere Billionen Euro und das auch noch in so kurzer Zeit, weil die gekaufte Hardware ja doch relativ schnell veraltet und bald abgeschrieben sein muss. Wir stehen auf jeden Fall am anfang, aber wenn die Blase platzt ist halt trotzdem kacke, und wenn nicht gibt es auch Szenarien die echt übel für die Wirtschaft sein können.
Ergänzung ()

peru3232 schrieb:
Leider ist auch das völlig nebensächlich in derart kriegerischen Zeiten. Entscheidend ist nur, wie viel Kuchen es vom "Verteidigungsbudget" geben kann. Und das sind durchaus hunderte Milliarden jährlich. Und da rede ich nur vom amerikanischen... auch sind da direkte Gewinnler, also die Rüstungskonzerne noch nicht mal eingerechne
Nein, sind es nicht, weil selbst die USA mit ihrem Riesen Budget eben nicht mal eben hunderte von Milliarden Dollar Jährlich in AI stecken kann ohne anderswo massive abstriche machen zu müssen. Da hilft nicht mal ein Billionen Budget.

Und da die USA quasi die 1/3 des Markes sind ... ist es selbst dann gar nicht so leicht die riesigen Investitionen zurückzubekommen. Besonders ohne AGI, und mit sowieso, denn wer zuerst AGI erreicht wird wahrscheinlich alle anderen Anbieter zu verlierern am Markt machen, und die sehen natürlich ihre Billionen auch nicht wieder.
Ergänzung ()

wagga schrieb:
autonome Waffen wie geisteskrank. Kranke Welt.:confused_alt:🤬😭💩💩🤮🤢🤮
Ich freu mich schon auf den Grey Goo.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Kitsune-Senpai
tree-snake schrieb:
Gibt wohl doch genug KI-Einsatz Möglichkeiten die sich zu lohnen scheinen. Nix KI-Blase . Wir stehen erst am Anfang.

Nix neues Geld :
https://www.n-tv.de/wirtschaft/US-Bankenriesen-fuerchten-neue-Finanzkrise-id30412572.html

LamaMitHut schrieb:
@aid0nex die wirtschaftlichen Erwartungen bleiben halt zurecht hoch, da die Fortschritte noch immer groß sind.

Beweise für diese Behauptung bitte.
Nur einen den man nicht gleich in der Luft zerreißen kann

peru3232 schrieb:
Und das sind durchaus hunderte Milliarden jährlich. Und da rede ich nur vom amerikanischen...

So ein Unfug


-----------------

BTW Anthropic will nur nicht verklagt werden wenn ihr system sich in der praxis (wie alle KI waffen bisher) als untauglich erweißt

Und spätestens wenn sie auf der Suppliers Risk Liste stehen knicken sie ein

Ansonsten:
 
  • Gefällt mir
Reaktionen: Kitsune-Senpai und Col. Jessep
Anthropic kann hier eigentlich alles ignorieren, dank dem ständigen Twittern der Regierung und den Drohungen gibt es ja ne sehr gute Beweislage gegen die Regierung. Sprich, selbst wenn sie es durchziehen, werden sie vor Gericht mit super hoher Wahrscheinlichkeit verlieren und dann wird man Anthropic Mrd. zahlen müssen.
 
Bin gespannt wie lange die standhaft bleiben können, auch wenn wir das dann bestimmt eh nicht mehr mitbekommen, wenn sie ihre Position aufgeben.
 
@DonDonat So einfach wird das nicht. Andere Staaten werden KI fürs Militär nutzen und damit ist das am Ende des Tages eine Frage der nationalen Sicherheit für die USA.
 
@DeusExMachina

Du wirst doch eh alle Benchmarks als wertlos bezeichnen, also warum sollte ich mir die Mühe machen?


Beispiele für Anwendungen die vor kurzem kaum möglich waren (Videos oder Weltmodelle wie Genie, Code Assistenten) sind natürlich belanglose Spielereien die nicht/kaum mehr besser werden können, und überhaupt kann man mit Transformer - Modellen niemals Geld verdienen...

Ne im Ernst, ob das ganze ne Sackgasse ist werden wir erst in 1-2 Jahren sehen.
 
Mag ja so klingen als wären das tatsächlich gute News.
Aber ich habe schon lange den Glauben an die Menschheit verloren!

Daher glaub ich nicht das Anthropic mit der Einstellung dabei bleibt.

Oder dann nimmt halt das Pentagum Google oder OpenAI für autonome Waffen oder zwingt Anthropic über irgendwelche abartigen Regeln dazu. Oder halt irgendein ab gekapertes Spiel mit absurden Preisen für AI-Hardware von z.b. NVIDIA. Die Stecken ja auch in der Regierung mit drin - auch wenn Trump erst nicht wusste wer der Mann mit der Lederjacke überhaupt war ^^

Am Ende wird KI immer weiter für autonome Waffensysteme eingesetzt und alte Modelle durch neuere Ersetzt - bis wir dann bei Skynet angekommen sind und wir schlichtweg die Kontrolle verlieren. Ob das jetzt Claude XYZ oder Open AI XYZ oder was auch immer ist, spielt dann auch keine Rolle mehr. Sollte halt kein ChatGPT 5.x sein :D

Gab es da nicht letztens sogar einen Artikel wo es darum ging, das verschiedene LLM Modelle getestet wurden mit Szenarien und in 90% der Fälle immer mit Atomkrieg endeten? War heise meine ich, aber ich verlinke hier nichts.
 
Wer es nicht weiß Anthorpic ist eine Ausgründung von OpenAI.
Die waren unzufrieden, dass OpenAI keine großen moralischen Restriktionen in ihrer KI einbauen will.

Daher ist der moralische Ansatz von Anthropic der Kern des Unternehmens. Daher können sie gar nicht gegenüber dem Pentagon nachgeben, weil sie sonst alles verraten würden wofür die Firma steht.
Den PR Schaden könnten sie vielleicht noch überleben, aber nicht den Abgang der KI-Pioniere die das Ganze entwickelt haben.

Von allen KI Firmen sind sie nicht nur die besten, sondern auch die sympathischsten.
 
  • Gefällt mir
Reaktionen: Kitsune-Senpai
Die führen sich auf wie eine Nachwuchsdiktatur, peinlich.
 
Wer weiß schon wie das Ausgeht. Überwachung war noch nie so einfach wie heute...
 
DeusExMachina schrieb:
Ansonsten:
Die sind als FPS Drohnen schon furchterregend genug an der Ukrainischen Front, die brauchen nicht noch AI.
 
  • Gefällt mir
Reaktionen: Kitsune-Senpai
Zurück
Oben