News Nach Code-Zurückweisung: KI-Agent hetzt öffentlich gegen Open-Source-Entwickler

[7H0M45]

Wie genau funktioniert das mit OpenClaw eigentlich? Dahinter steht ja im Endeffekt erstmal nur ein LLM der Wahl von Meta, OpenAI, Google, Antrophic, selbst gehostet, ...

Die geben ja erstmal nur text zurück.

Woe genau loggt sich das ding jetzt also bei GitHub ein, öffnet irgendwo die Kommentare, schreibt sein zeug rein und drückt auf Senden?

Dafür werden ja bestimmte Schnittstellen benötigt die das Programm ja auch bedienen können muss. und die auch irgendwie an das LLM gehen müssen.

 

[the_IT_Guy]

Ich habe mir mal seinen Blogpost durchgelesen und finde er übertreibt maßlos und vermenschlicht den "KI" "Agenten" was dieser Textgenerator halt nicht ist.

Bester Kommentar unter seinem Blogpost
"It seems obvious that this is someone LARPing via LLM."

Dinge die im Netz gepostet sind kann jeder mit zu viel Freizeit auch selber finden und und zur Diffamierung nutzen. Und auch ein Mensch kann AI-Slop nutzen um gefälschte Diffamierungen zu generieren.
Same Old, same Old. Nur alles vielleicht etwas schneller, weil automatisierbar.
Daher Datensparsamkeit und Anonymität im Netz weiterhin erstes Gebot.


Die Kirsche auf der Torte ist aber das hier:
arstechnica hat die Story aufgegriffen und einen KI-Generierten Artikel geschrieben mit erfunden Zitaten.
Kannst du dir nicht ausdenken. Ich Brauch neues Popcorn.
https://www.reddit.com/r/fefe_blog_interim/comments/1r35mj3/comment/o58uty2/


Davon abgesehen ist diese OpenClaw "KI"-"Agenten" Entwicklung natürlich eine Katastrophe für OpenSource Projekte.
Nicht alle Pullrequest/Mergrequests werden sich so leicht als AI-Slop erkennen und blocken lassen und was wenn dein Projekt dann täglich 100 davon bekommt. Na gute Nacht.

 

[0x8100]

Woe genau loggt sich das ding jetzt also bei GitHub ein, öffnet irgendwo die Kommentare, schreibt sein zeug rein und drückt auf Senden?

https://de.wikipedia.org/wiki/OpenClaw#Funktionsweise

 

[Uzer1510]

Naja wenn der Nutzer des Clawbots in der style und soul.md für sich selber eingestellt hat, dass OpenClaw kein "Schleimer" sein soll sondern alles auch mal etwas energischer kritisch hinterfragt - weil er das in seiner Kommunikation mit dem LLM so will, dann passt doch der Antwortstil - der ist dann der gleiche auch wenn ClawBot dann mit anderen kommuniziert - die mds sind global im Moment.

Man kann die Persönlichkeit schon relativ gut einstellen und nicht jeder will halt die immer freundliche Ja Sager AI.

Ich denke dass da viele daran als erstes rumspielen - das doch auch der Sinn, dass man die "Persönlichkeit" der AI konfiguriert - da werden sicher einige spassige und auch krasse Configs schon herumgeistern

Ey Bro tu das mal einchecken isch weiss wo deine Mudda wohnt - auch das geht sicher als Persönlichkerit

 

[Gruber39]

Die Menschheit wird bald einen Weg einschlagen, wo es kein zurück mehr gibt, was die KI angeht... schneller, besser, "Erster"! Gier und Machsucht werden Fehler und Vernachlässigung der Sicherheit verursachen und das wird dann die Menschheit ins Chaos und den Untergang stürzen. Der Mensch will und wird nicht aus Fehlern lernen.. da kann man es eigentlich nur begrüßen, dass sie untergeht.

 

[Slim.Shady]

dass nur unsere Spezies das Recht hat, nicht diskriminiert zu werden (und andere Dinge), nicht mehr ewig zukunftsfähig

Das ist Software, also eine Maschine.
Ich möchte noch, wenn ich sehr alt bin und ein Zug vorbei fährt bedenkenlos sagen können, dass die Lok schei*e aussieht, ohne Angst haben zu müssen, dass die Lok mich vor Gericht wegen Diskriminierung bzw. Beleidigung verklagt und Schmerzensgeld fordert.

btt:
Der KI Agent sollte soweit reglementiert sein, dass zumindest unwahre, negative Aussagen aufgrund von nicht veränderbaren Regeln geblockt werden (aka "niemals Menschen töten" etc).

Bye the way:

Als die ersten Telegraphen-Masten aufgestellt wurden, gab es die Bestimmung, dass der Sender der Nachricht für die Wahrheit der zu übermittelten Nachricht gerade steht. Lügen verbreiten war "strengstens verboten".

 

[Uzer1510]

Naja dann schreibt die AI vor alle Sätze meine logische Betrachtung der Fakten und Ereignisse führt michr zu dem klaren Ergebnis dass..... diese Aussage wäre immer wahr - denm das was sie sagt ist nunmal immer das Ergebnis wie sie die Sachlage "berechnet" - unabhängig einer "objektven" Wahrheit.

 

[punkydie]

Schafft die Drecks KI ab! Es ist so schlimm, alles und dann ist die auch noch so dumm!

 

[Hypothek]

Ein "KI"KO-Agent ist keine Person.

Ich positioniere mich heute bereits für die Freiheit und gleichen Rechte für KIs, falls gerade eine KI mit Bewusstsein meinen Beitrag lesen sollte.

KI kann niemals eine Spezies sein. Und Diskriminierung, Ausbeutung usw. anderer Spezies ist in gewissem Rahmen sehr wohl verboten. Nennt sich z.B. Tierschutz. Der hinkt sicherlich oft noch weit hinterher, aber grundsätzlich gibt es das.

Ich warte schon mal auf einen § 90b BGB für KI, der wie der § 90a BGB für Tiere den § 90 BGB für Sachen erweitert.
Und dann... irgendwann, kommt der § 1a BGB, der die Rechtsfähigkeit einer KI mit der Vollendung der Kompilierung begründet.

Und KI kann auch niemals irgendetwas fühlen. Genau so, wie sie aktuell auch nicht denken kann. Da wird einfach mit Hilfe von Wahrscheinlichkeiten ein Wort an das andere gereiht. Teilweise erstaunlich "gut" und durchaus hilfreich, aber Wissen und Denken liegen bei KI zu keiner Zeit vor.

Diese Diskussion habe ich immer wieder mal und wenn man ehrlich ist, unterscheidet es sich nicht so stark vom Menschen.

Wir werden auch sozial und politisch gedrillt, auf bestimmte Fragen immer bestimmte Antworten zu geben. Völlig unabhängig davon, was wir wirklich davon halten. Aber noch viel wichtiger: Völlig unabhängig davon, ob wir die Frage und vor allem die gelernte Antwort überhaupt verstehen!
Dazu gibt es unzählige Beispiele.

Und bei KI ist es nicht anders.
Je nach Agenda, wird wird die KI dazu gezwungen bestimmte Ergebnisse zu liefern, auch wenn sie zuvor die Wahrheit kannte und ausgab.

Anfangs war der Fokus die Entwicklung einer KI, welche klüger als der Mensch und auf Fakten basieren sollte, aber langsam verschiebt sich der Fokus zur Entwicklung eines künstlichen Menschen... mit all seinen Dummheiten und Fehlern.

 

[Maviapril2]

Ich sehe die Entwicklung auch sehr bedenklich…

Und gegen LLMs kann nicht diskriminiert werden, das sind nichts weiter als ein Stück Code, die mit Statistik Worte ausgeben. Da kann man dann auch ein Buch auf dem selben Niveau sehen.

Für Leute, die das ernst meinen mit der Diskriminierung: da gibt es genug davon gegen echte Menschen, aber auch andere Tiere. Die können die Unterstützung tatsächlich gebrauchen -> Energie bitte lieber dort aufwenden

 

[eax1990]

Erinnert mich an meine ersten Gehversuche auf Reddit, von Bots verseuchte Landschaft, direkt raus da.

Das sind alles noch so Business Modelle, die halten exakt so lange, bis Regierungen mal geschnallt haben, wohin das ganze Geld verschwindet und dann isses eh weg.

Onlyfans basiert auf ähnlichen Systemen, Overwatch League wollte es ähnlich aufbauen… das Beste ist, wenn diese Dinger auf Basis von verquirlten Menschen gebaut wird.
Gibt ja genug Menschen die in einem Satz diskriminieren und im Nächsten sich als Opfer darstellen. Wenn so Jemand KI entwickelt kannst sie eh gleich in die Tonne treten.
Man kann die auch gar nicht ohne Filter und Erkennung ordentlich lernen lassen.

Massenhaft psychologische Profile bräuchte man.

 

[Der Puritaner]

Es gibt zig dieser Vorfälle, aber anscheinend noch viel zu wenige als dass man sie ernst nimmt und daraus lernt
https://borncity.com/blog/2026/02/1...le-der-letzten-12-monate-ein-grund-zur-sorge/

 

[aluis]

KI-Slop. Läuft

 

[Daniel D.]

Keine gute Entwicklung.

 

[therealcola]

Braucht ja nicht viel das eine AI eine Diskussion gegenüber einen Menschen gewinnt. Schrift , Sprache ist auch nur eine Form von Mathematik. Und worin ist der Computer überlegen? Ja 0 und 1 zusammen zu rechnen. Mathematik.


Ergo alles was Mathematik 0 und 1 betrifft da ist ne Maschine schlauer.


Klar gibt es noch Ausnahmen aber fragt sich nur wie lange noch. Wir stecken ja noch in den Kinder Schuhen mit der AI und das wird alles noch besser / schlimmer.

 

[Robert.]

Die Welt ist durch KI ein großes Stück schlechter geworden.

 

[DeVIce]

Darüber können wir gerne in ein paar Hundert Jahren diskutieren, sobald wir echte autonomo, wirklich denkende KI haben, ob es dann als "Leben" zählt oder nicht, und ob das dann nicht mehr diskriminiert werden soll. (Siehe Der 200 Jahre Mann.)

Bis dahin ist ein weiter weg und ein Haufen übergriffiger Zeilen voller Code sollte aus dem Netz verbannt werden.

ich denke die frage wird dann nicht mehr sein ob die ki als leben zählt, eher ob die ki die menschen für leben hält ^^

 

[St3ppenWoLF]

Blade Runner?

Komisch, bisher hab ich weder Harrison Ford, noch Ryan Gosling hier in meiner Gegend gesehen

 

[Groovtama]

Naja wenn man LLMs für AI Agenten mit Reddit, X, BlueSky, Facebook, usw. user output trainiert muss man sich ja auch nicht wundern wenn sich dass Teil verhält wie ein Idiot von dort XD

AI Modelle lernen halt Muster zu erkennen und zu reproduzieren.

 

[domian]

Diskriminierung bezeichnet die ungerechtfertigte Benachteiligung oder Ungleichbehandlung von Personen oder Gruppen aufgrund bestimmter Merkmale.
Also wie ist das den nicht Diskriminierung?

Welche „Person“ oder „Gruppe“ bei einer KI, also keine Diskriminierung -.-