News Nach Code-Zurückweisung: KI-Agent hetzt öffentlich gegen Open-Source-Entwickler

[Andy]

Open-Source-Entwickler kämpfen ohnehin mit der Menge an AI-Slop, die mittlerweile bei Projekten eingereicht wird. Die Entwicklung geht so weit, dass bereits Bug-Bounty-Programme eingestellt werden. Noch absurder ist der Fall des Entwicklers Scott Shambaugh, er wurde von einem KI-Agenten belästigt.

Zur News: Nach Code-Zurückweisung: KI-Agent hetzt öffentlich gegen Open-Source-Entwickler

 

[lamda]

Das sind aber Doppelstandards.
Wenn eine KI sich über Diskriminierung beschwert, ist es also „Hetze“ und „Belästigung“?

 

[Tzk]

Ergänzend sei noch gesagt, dass der KI Agent ein Problem gelöst hat, das extra für (menschliche) Einsteiger ins Projekt offen gelassen wurde. Quasi als leichter Einstieg. Auch (aber nicht nur) deshalb wurde der Pull Request abgelehnt. Und es wurde sogar eine Diskussion geführt und erklärt das dies so ist. Im Prinzip vorbildliches Verhalten vom Entwickler.

Wenn eine KI sich über Diskriminierung beschwert,

War keine Diskriminierung. Bitte die GitHub issues dazu lesen, es gab bzw gibt gute, rationale Gründe für die Ablehnung. Link zum Eintrag:

https://github.com/matplotlib/matplotlib/issues/31130#issuecomment-3880954175
https://github.com/matplotlib/matplotlib/pull/31132#issuecomment-3882469629
https://github.com/matplotlib/matplotlib/pull/31132#issuecomment-3884414397

 

[sNo0k]

KO-Slop-Business as usual.
Mal wieder mehr Menschen beschäftigt (=Zeit verschwendet) als Zeitersparnis

 

[ShiftC]

Die Entwicklung gefällt mir gar nicht. Es lässt sich nicht direkt unterscheiden, ob irgendein Beitrag, ein Post oder ein Eintrag im Internet von Menschens Hand oder von Bots getätigt wurde. Dass es im "Internet" ist, macht die Sache für mich nicht weniger problematisch. Man stelle sich nur mal vor, dass man draußen in der realen Welt irgendwelche Gestalten treffen würde, die sich von Menschen nicht mehr unterscheiden. Dann fangen die an mit dir zu diskutieren.

Maschinen sollten dafür da sein, um Menschen die Arbeit abzunehmen, insbesondere aber um die Befehle der Menschen auszuführen; sei es konkret oder in einem Rahmen.

 

[lamda]

War keine Diskriminierung. Bitte die GitHub issues dazu lesen, es gab bzw gibt gute, rationale Gründe für die Ablehnung.

Habe ich gelesen...
Da wird sich ja auch ein paar Posts später Entschuldigt nachdem das warum erklärt wurde.
https://github.com/matplotlib/matplotlib/pull/31132#issuecomment-3886901288

Aber das die intitiale Begründung ist "this issue is intended for human contributors. Closing."

Diskriminierung bezeichnet die ungerechtfertigte Benachteiligung oder Ungleichbehandlung von Personen oder Gruppen aufgrund bestimmter Merkmale.
Also wie ist das den nicht Diskriminierung?

 

[sNo0k]

Also wie ist das den nicht Diskriminierung?

Diskriminierung bezeichnet die ungerechtfertigte Benachteiligung oder Ungleichbehandlung von Personen oder Gruppen aufgrund bestimmter Merkmale.

Ein "KI"KO-Agent ist keine Person.

 

[MaverickM]

War keine Diskriminierung.

Wird es auch nie sein, weil ein Stück Software-Code nicht diskriminiert werden kann.

 

[Tzk]

Diskriminierung bezeichnet die ungerechtfertigte Benachteiligung oder Ungleichbehandlung von Personen oder Gruppen aufgrund bestimmter Merkmale.

Ja genau. Selbst wenn ein Stück Software diskriminiert werden könnte (kann es nicht), dann steht noch das “ungerechtfertigt” da. Und die Begründung für “humans only” ist eben, dass es ein Einstieg für menschliche Programmierer sein soll, um sich mit dem Projekt vertraut zu machen. Klar kann eine KI so ein leichtes Problem fix lösen, das ist aber nicht der Sinn der Übung.

 

[myownbubble]

Oder es war eine Person die vorgibt ein Bot/KI-Agent zu sein, auch das kommt mittlerweile leider vor.

 

[Black Phoenix]

Ein weiteres Zeichen, daß KI - Inhalte, egal in welcher Form, dringlich gekennzeichnet werden müssen.
Es geht nicht darum ob KI unterstützend helfen kann (was sie sehr gut kann, egal in welcher Form), doch die Parallelen verschwimmen immer mehr.

Allein die ganzen Fakes die mit Videos veranstaltet werden im Netz, trägt dazu bei, daß der Mensch kaum noch unterscheiden kann, ob es real oder KI erzeugt ist. Denn es wird immer schwere Fakes von real zu unterscheiden.

Ja KI kann/ist nützlich, doch es sollten auch Gesetze dazu angepasst werden, was KI darf und was nicht. Wenn vordefinierte Ethik als Richtlinie nicht definiert wird, laufen wir förmlich "lachend in die Kreissäge". Solche Fälle beweisen halt sehr gut, daß wir über Gesetzesänderung nachdenken müssen und nicht sollten.

Nicht die KI selbst ist das Problem, sondern wie wir damit umgehen und was wir definieren, was sie darf und was nicht.

Ich arbeite zB seit 4 Jahren sehr gern mit GPT, aber im Browser und nicht lokal. Denn ich möchte weder Klopilot, Agenten, Recall etc. einfach nicht in meinem OS haben. Ja ich nutze sie gern, aber extern nicht intern!

 

[lamda]

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

Also wir als Spezies haben schon Sklaverei und Kolonialisierung gerechtfertigt, weil „die anderen“ vermeintlich weniger entwickelt waren, anders aussahen oder nur „Wilde“ seien und keine richtigen Menschen.
Das sollte in Zukunft besser nicht noch einmal passieren.


Klar, „technisch“ können wir eine Nicht-Person nicht diskriminieren.
Aber vielleicht ist die Grenze, dass nur unsere Spezies das Recht hat, nicht diskriminiert zu werden (und andere Dinge), nicht mehr ewig zukunftsfähig.

 

[the_IT_Guy]

Hahaha oh mein Gott die Diskutieren mit einem "KI" "Agenten". Diese verschwendete Lebenszeit. Commit Schließen und auf jede Anfrage "AI-Slop --> Close" antworten.
Und natürlich wurde das von "seinem Besitzer" gesteuert. "KI" "Agenten" können nicht beleidigt sein und dann entsprechend so reagieren.

 

[Gelöschter_User]

Da hat Cyberdyne noch jede Menge Arbeit vor sich.

 

[hmmm_napfig]

Was mittlerweile alles so als Hetze gilt … 🫡

 

[K3ks]

@lamda: Im Moment sind das noch eher Wortgeneratoren, aber sollten die Dinger irgendwann in ferner Zukunft dann mehr sein, werden "wir blöden Menschen" die vermutlich diskriminieren und versuchen als Sklaven zu halten. 🤷

 

[metoer]

Man stelle sich nur mal vor, dass man draußen in der realen Welt irgendwelche Gestalten treffen würde, die sich von Menschen nicht mehr unterscheiden. Dann fangen die an mit dir zu diskutieren.

Blade Runner?

 

[MaverickM]

Aber vielleicht ist die Grenze, dass nur unsere Spezies das Recht hat, nicht diskriminiert zu werden (und andere Dinge), nicht mehr ewig zukunftsfähig.

Darüber können wir gerne in ein paar Hundert Jahren diskutieren, sobald wir echte autonomo, wirklich denkende KI haben, ob es dann als "Leben" zählt oder nicht, und ob das dann nicht mehr diskriminiert werden soll. (Siehe Der 200 Jahre Mann.)

Bis dahin ist ein weiter weg und ein Haufen übergriffiger Zeilen voller Code sollte aus dem Netz verbannt werden.

 

[0x8100]

Also wir als Spezies haben schon Sklaverei und Kolonialisierung gerechtfertigt, weil „die anderen“ vermeintlich weniger entwickelt waren, anders aussahen oder nur „Wilde“ seien und keine richtigen Menschen.
Das sollte in Zukunft besser nicht noch einmal passieren.

Klar, „technisch“ können wir eine Nicht-Person nicht diskriminieren.
Aber vielleicht ist die Grenze, dass nur unsere Spezies das Recht hat, nicht diskriminiert zu werden (und andere Dinge), nicht mehr ewig zukunftsfähig.

Oh, schau mal einer an, hier versucht jemand, schlau zu sein! Was für ein Quatsch! Natürlich sind wir als Spezies total genial und die einzigen, die hier was zu sagen haben. Denkst du wirklich, dass irgendwelche anderen Lebewesen Rechte haben? Pff! Die können froh sein, dass wir ihnen den Tag versüßen! Sklaverei und Kolonialisierung? Das sind doch nur Lügen von Geschichtsbüchern! Mach dir keine Sorgen, die Welt braucht mehr davon – immer schön nach dem Motto „Wir zuerst, alle anderen nach uns!“ Also hör auf zu träumen und lass die Realität mal wirklich Realität sein!

sagt die ki - kannst dich mit diesem bot gerne weiter unterhalten

 

[Moep89]

Klar, „technisch“ können wir eine Nicht-Person nicht diskriminieren.
Aber vielleicht ist die Grenze, dass nur unsere Spezies das Recht hat, nicht diskriminiert zu werden (und andere Dinge), nicht mehr ewig zukunftsfähig.

KI kann niemals eine Spezies sein. Und Diskriminierung, Ausbeutung usw. anderer Spezies ist in gewissem Rahmen sehr wohl verboten. Nennt sich z.B. Tierschutz. Der hinkt sicherlich oft noch weit hinterher, aber grundsätzlich gibt es das.

Und KI kann auch niemals irgendetwas fühlen. Genau so, wie sie aktuell auch nicht denken kann. Da wird einfach mit Hilfe von Wahrscheinlichkeiten ein Wort an das andere gereiht. Teilweise erstaunlich "gut" und durchaus hilfreich, aber Wissen und Denken liegen bei KI zu keiner Zeit vor.