Als die Sache mit OpenClaw anfing, hörte der Spaß für mich in gewisserweise auf, weil ich nicht mehr den Menschen hatte, der die Prompts eingab und den Output verarbeitete. Stattdessen habe ich irgendein unkontrollierbares Programm dazwischengeschaltet, das den Output eines LLMs blind ins Terminal eingibt, damit potentiell wer weiß was anrichtet und sich bei Fehlermeldungen immer wieder neuen Rat beim LLM holt. Sowas auf dem eigenen Rechner zu machen, war für mich das Äquivalent dazu, sich irgendwo im Netz dubiose Shell-Skripts zu ziehen und die einfach mit Admin-Rechten zu starten. Was soll schon schief gehen?
Am Anfang war das noch ganz amüsant, wenn einige sich damit ihr System oder ihre Daten zerschossen haben. Dass das ganze jedoch auch genutzt werden kann, um im Netz Schaden anzurichten, war dagegen nur der nächste Gedankenschritt. Ob so ein Agent böswillig oder aus Versehen agiert und ob er clever genug ist, sein Ziel zu erreichen, ist gar nicht so wichtig, denn Schaden kann er in jedem Fall anrichten. Und wenn ich wie die Tech-Bros einfach die weltweite Rechenleistung aufkaufe, kann ich diesen Schaden schneller anrichten, als je ein Mensch ihn erkennen oder verhindern könnte.
Ob das in einer Auslöschung der Menschheit endet, ist erstmal fraglich, da dieses Vorhaben eine gewisse Zielstrebigkeit und Vorsatz benötigt. Was ich mir aber gut vorstellen kann, ist dass wir in wenigen Jahren kein öffentliches Internet mehr betreiben können, weil immer irgendwo ein Clown seine Agenten alles hacken oder DDOSen lässt. Er muss sie nichtmal kontrollieren können, um Schaden anzurichten und selbst wenn er selber gehackt wird oder sich seine Agenten gegen ihn richten, steht der nächste Clown direkt bereit. Chaotic Evil sozusagen. Das könnte zu einer massiven Dezentralisierungswelle führen, insbesondere bei kritischer Infrastruktur.
Aufhalten lässt sich ganze in meinen Augen nicht, denn selbst bei staatlichen Auflagen reicht es ja, wenn ein anderer Staat weitermacht und damit alle anderen bedroht. Man kann hier nur auf eine ähnliche Pattstellung wie beim atomaren Wettrüsten hoffen, wo niemand (d.h. USA und China) seine destruktiven Agenten von der Leine lassen will, weil er nicht sicher sein kann, das Chaos selbst zu überleben (entweder weil keiner weiß, was der "Gegner" auf der Hand hat oder aus Angst, dass sich der eigene Agent gegen einen richtet).