Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsSexualisierte KI-Inhalte: EU startet offizielles Verfahren gegen X und Grok
Wenn Grok der breiten Masse eine Technologie zur Verfügung stellt, mit der illegale Tätigkeiten einfach durchgeführt werden können, sind sie selbstverständlich mitverantwortlich.
"Wenn die Telekom der breiten Masse eine Technologie zur Verfügung stellt, mit der illegale Tätigkeiten einfach durchgeführt werden können, sind sie selbstverständlich mitverantwortlich."
Wenn wir alle in Haftung nehmen, die Technologien zur Verfügung stellen, mit denen man was illegales machen kann, dann können wir auch gleich auf Technologie verzichten.
Es ist mittlerweile Standard, dass immer der Nutzer der Technologie derjenige ist, der bei einer illegalen Verwendung dieser auch angezeigt wird. Wieso ist es bei X dann auf einmal die Plattform? Hier wird mit zweierlei Maß gemessen, besonders weil es Elon Musk ist. Hört doch bitte mit euren Doppelstandards auf! Andere KIs bauen genauso scheiße, davon ab haben wir auch noch lokale KIs.
Am Ende sind die KIs nur ein Spiegel der Gesellschaft, dann verbietet doch einfach Menschen!
Aber das ist hier doch gar nicht der Punkt, warum willst Du davon ständig ablenken? Es wird den Menschen ein viel zu einfach zu nutzendes Werkzeug in die Hand gegeben.
Natürlich kann ich auch mit einem Meißel und einem Hammer aus einem Steinblock eine Skulptur erstellen, einfacher geht es aber doch mit den fertigen Dateien für einen 3D-Drucker. Erkennst Du da wirklich keinen Unterschied?
ascer schrieb:
Es wird ein (einfaches) Feindbild (in diesem Fall eben Musk persönlich) aufgebaut und ganz klar ideologisch verfolgt
Hier geht es doch ganz klar um die Sache, keine Ideologie, ein Wort das so gerne missbraucht wird, um Menschen zu diskreditieren, die anderer Meinung sind. Die Behauptung es ginge um Elon Musk ist doch komplett an den Haaren herbeigezogen. Er selber auch gar nicht angeklagt.
Das Internet ist auch ein recht einfaches Werkzeug um zb. Urheberrechtsverletzungen zu begehen. Wo fängst du dann an und wo hörst du auf? Was ist der Maßstab?
Incanus schrieb:
Natürlich kann ich auch mit einem Meißel und einem Hammer aus einem Steinblock eine Skulptur erstellen, einfacher geht es aber doch mit den fertigen Dateien für einen 3D-Drucker.
Und genau demnach müssen jetzt 3D-Drucker eingeschränkt und kontrolliert werden, oder nicht? Man kann jetzt recht einfach Figuren drucken, die man normalerweise kaufen muss.
Du kannst es drehen und wenden wie du willst, die Nutzer sind Schuld an dem was sie erstellen. Was man X eventuell vorwerfen kann, dass sie nicht schneller gegen die Verbreitung vorgegangen sind. Allerdings stelle ich mir das in sozialen Netzwerken, egal welchem, auch für sehr schwierig vor.
"Wenn die Telekom der breiten Masse eine Technologie zur Verfügung stellt, mit der illegale Tätigkeiten einfach durchgeführt werden können, sind sie selbstverständlich mitverantwortlich."
Wenn wir alle in Haftung nehmen, die Technologien zur Verfügung stellen, mit denen man was illegales machen kann, dann können wir auch gleich auf Technologie verzichten.
Aber:
Man kann öffentlich zugängliche Bildgenerierung so einschränken, dass damit nichts Problematisches erstellt werden kann. Es ist eine bewusste Entscheidung, dies nicht zu tun.
Ein weiterer Punkt ist, dass X diese Bilder auch direkt auf der eigenen Plattform ausspielt. Auch hier gilt: Man könnte Bilder filtern, entscheidet sich aber bewusst dagegen.
Es geht hier – und das ist tatsächlich der entscheidende Unterschied – darum, dass ein Service angeboten wird, der die Erstellung illegaler Bilder ermöglicht. Es geht um den Service, nicht um das Werkzeug an sich.
Wenn eine Schießbude Waffen an Menschen verteilt, die scharfe Munition enthalten, und dann tödliche Schüsse fallen, ist der Täter zwar schuldig (sofern ihm bewusst war, dass die Munition scharf ist), der Schießbudenbesitzer wird jedoch in jedem Fall zur Rechenschaft gezogen.
---
Persönlich:
Die Bezeichnung „sexualisiert“ in Verbindung mit erwachsenen Frauen im Bikini finde ich sehr unpassend. Wenn wir alles als "sexualisiert" beschreiben, das in irgendeiner Form freizügig ist, wirkt das auf mich albern und für eine Gesellschaft fast schon toxisch. Und es Entwertet auch den Begriff.
Die Kritik an X ist sicher berechtigt, aber irgendwie finde ich den aktuellen Aufschrei etwas zu laut. Es passiert so viel Zweifelhaftes, das sich extrem nah an der Grenze des Erlaubten bewegt:
YouTube
An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.
Es gibt sicher legitime gründe für das Zeigen von Kinderbademode. Aber ob das in diesem Sinn ist? Man kann zweifeln...
Das stützt eben die These, dass das Internet kein netter Ort ist.
X ist bekannt, weshalb der Aufschrei in der breiten Gesellschaft so groß ist. Politiker sind auch nur Menschen, und ihr erster Reflex mag ähnlich gewesen sein. Aber ich unterstelle einem Spitzenpolitiker auch, dass es ihm nicht primär um den Schutz von Kindern geht. Ansonsten würde man eher überlegen, wie man die gesamte Aufmerksamkeitsökonomie, die zu diesem Missbrauch führt, austrocknen kann.
Auch hier gilt: Ein offenes, freies und von Menschen kontrolliertes Fediverse würde dieser ganzen Entwicklung sicher einen Schlag versetzen.
Interessant finde ich die Idee, das man sich Künftig über KI dieses Content selbst erstellen kann. Es gibt offensichtlich diesen Bedarf. Obs der Pfarrer ist oder die Gooner rund um Piper Rockelle... wenigstens kommt bei der KI Generierung keiner zu schaden.
Wenn die Telekom der breiten Masse eine Technologie zur Verfügung stellt, mit der illegale Tätigkeiten einfach durchgeführt werden können, sind sie selbstverständlich mitverantwortlich.
Nicht alles was hinkt, ist ein Vergleich.
Telekom macht das Netz für die Datenübertragung, quasi eine Autobahn. Nur weil du diese für Drogenschmuggel nutzt, kannst du die Autobahnmeisterei nicht verantwortlich machen. Wenn du aber einen Shuttle-Dienst anbietest, Kontakt zu Drogenhändlern herstellst, und einen einfachen Erwerb und Transport von Drogen ermöglichst, bist du mitverantwortlich.
Ich hoffe diese Analogie macht für dich eher Sinn. Wie gesagt, der Vergleich ISP und Grok ist viel zu weit hergezogen.
In ihrer Funktion könnte man sie natürlich einschränken, wie man z.B. mit Fotokopierern kein Geld täuschend echt kopieren kann, wie hier auch schon mal erwähnt wurde.
Und warum sollte man die Werkzeuge nicht beschränken dürfen und gleichzeitig die sie nutzen belangen? Das eine schließt doch das andere nicht aus. Nichts zu tun ist auf jeden Fall das Schlechteste, was man machen kann.
Grok, ChatGPT, Gemini, ComfyUI, Automatic1111 etc. geben dir das Tool in die Hand um KI Bilder oder Filme zu erstellen. Also ist die Community um Stable Diffusion auch Schuld daran, wenn Fake Bilder erstellt werden?
Vor allem habe ich es nicht nur mit der Telekom verglichen, du zitierst doch schon alles, dann geh auch bitte darauf ein. Ich vergleiche es mit jeder x-beliebigen Technologie, mit der du auch illegale Sachen anstellen kannst. Denn du kannst mit so ziemlich allem auch bösen Schabernack treiben, warum da jetzt KI das ultimative Schlimme sein soll, verstehe ich nicht wirklich.
Dark_Soul schrieb:
Wenn du aber einen Shuttle-Dienst anbietest, Kontakt zu Drogenhändlern herstellst
Wie war das mit dem hinken? Stellt Grok Kontakt zu irgendwem her? Vor allem zu etwas, bei dem Menschen tatsächlichen körperlichen Schaden erleiden. Grok stellt ein Werkzeug zur Verfügung, mehr nicht. Genauso, wie alle anderen KI Anbieter.
Ich bin nicht sicher ob ich deinen Punkt verstehe. Worum geht es dir? Um 100%igen Schutz vor allem und jedem? Du wirfst vieles in einen Topf den ich nicht ganz nachvollziehen kann. Lass und daher versuchen beim konkreten Thema zu bleiben. Es geht explizit um die Bildgenerierung und die Fehlenden Guardrails von Grok.
In dieser Diskussion geht es um diese Technologie, die Grok der breiten Masse zur Verfügung stellt, die es ermöglicht falsche Bilder von Menschen zu erstellen, die auf den ersten Blick offensichtlich nicht als Fake gekennzeichnet sind. In dieser Einfachheit und Verfügbarkeit ist das bisher einzigartig IMHO. Diese Bilder werden öffentlich verfügbar gemacht, ohne Zustimmung der betroffenen Personen. Dass dies sogar in die Richtung sexualisierte Darstellung von Kindern geht ist ein klares Redflag. Eigentlich sollte das mit gesundem Menschenverstand verständlich sein. Das ist einfach illegal. Warum, wieso,weshalb wurde in diesem Thread ja ausreichend erklärt.
So, das ist einmal das Problem. Die Technologie, die es jedem ermöglicht ganz einfach diese Bilder herzustellen und zu verbreiten.
Jetzt vergleichst du das mit einem Netzbetreiber, der sich um ein komplett anderes Business kümmert, nämlich im Datentransfer. Und mal abgesehen davon, dass die Telekom hier auch darauf einwirkt illegale Angebote unzugänglich zu machen, ist es da sehr viel eher nachzuvollziehen, dass sie nur ein neutraler Vermittler sind.
Bei X ist das vollkommen anders. Sie kontrollieren die Plattform und die Technologie und bieten sie aktiv der breiten Masse an.
Genau das ist das Problem und nicht die Generierung an sich. Aber für das Veröffentlichen und die Generierung ist der Nutzer verantwortlich und nicht die KI.
Dark_Soul schrieb:
Eigentlich sollte das mit gesundem Menschenverstand verständlich sein.
Das scheitert wohl eher am Papier und den Sicherheitsfeatures auf einem Geldschein, die sind nämlich mit einem Drucker einfach nicht druckbar, ganz egal was du tust.
Incanus schrieb:
Und warum sollte man die Werkzeuge nicht beschränken dürfen
Wozu? Das aushebeln dieser Sachen ist sehr einfach und das Gängeln der Nutzer viel schwerwiegender. Kannst du ja bei Netzsperren sehen oder Kopierschutz.
Von nichts tun redet aber keiner. Geh an die Nutzer ran, denn die sind für die Erstellung verantwortlich. Wer etwas illegales mit solchen Tools machen will, wird das tun. Denn es gibt immer Mittel und Wege. Wenn du die KI beschränkst, sorgst du eher dafür, dass sie überempfindlich werden und damit den Nutzer einschränken, selbst wenn es nur um absolut legale Sachen geht. Die KI beurteilt nicht selbstständig ob das ok ist oder nicht, sondern hält sich nur strickt an irgendwelche Vorgaben, die dann schon auf das Kleinste reagieren. Hatte da schon ein paar Diskussionen mit ChatGPT diesbezüglich.
Aber das ist hier doch gar nicht der Punkt, warum willst Du davon ständig ablenken? Es wird den Menschen ein viel zu einfach zu nutzendes Werkzeug in die Hand gegeben.
Natürlich kann ich auch mit einem Meißel und einem Hammer aus einem Steinblock eine Skulptur erstellen, einfacher geht es aber doch mit den fertigen Dateien für einen 3D-Drucker. Erkennst Du da wirklich keinen Unterschied?
Ich hab mich erstmal auf geltentes Recht bezogen.
Auf ethischer Ebene sehe ich einen ganz klaren Unterschied.
Wenn jetzt dein Hammer, Steinblock und Skulptur eine Analogie für das Filmen oder Fotografieren realer (illegaler) Szenen steht, sehe ich das als deutlich Verwerflicher und Krimineller an.
Aber nur weil ein Werkzeug leicht zu benutzen ist, macht der Missbrauch des Werkzeugs nicht das Werkzeug verwerflich oder illegal.
Für mich hört sich das ein bisschen an, als ob du mich fragst, ob ich keinen Unterschied zwischen realen Waffen und Wasserpistolen kennen würde.
Doch auch Wasserpistolen sind bereits als Waffen Missbraucht worden, in dem Sie mit ätzenden Flüssigkeiten befüllt worden sind.
Sollte man dann Wasserpistolen aus dem Verkehr ziehen?
Und klar kann man jetzt in Grok eine Sperre für das erstellen solcher Inhalte einbauen, aber ich glaube nicht, dass das das darunterliegende menschliche Problem löst.
Eher sorgt es halt dann dafür, dass irgendwelche lokalen Modelle dafür genutzt werden, und sich das ganze wieder mal ins Darkweb verschiebt.
Ein Bewusstsein darüber, warum man solche Dinge nicht generieren lassen sollte, oder dass man mit einem Fuß im Gefängnis steht, bildet sich dadurch bei den Nutzern nicht heraus.
Ein wirkliches Argument, warum man die KI dahingehend nicht einschränken sollte, habe ich hier bisher noch nicht gelesen. Stattdessen immer nur Ausweichmanöver.
Zum wiederholten Mal, wer hat gesagt, dass die Nutzer nicht belangt werden? Aber das Werkzeug dazu kann ich ihnen doch trotzdem wegnehmen.
Meinst du Bildgenerierungstools, die auf öffentlichen Servern laufen?
Andernfalls: Diese Art von KI ist nicht nur gut, um sich lustige Bilder generieren zu lassen. Was Code-Pilot für Programmierer ist, kann Flux und co. für Kreative sein. Such mal nach Krita AI Diffusion.
Sicher kann man nun anfangen, den PC fortan zu Scannen, ob jemand schädlichen Code schreibt. Oder Bücher verfasst, die nicht in das Weltbild passen. Oder wir hören ab einem gewissen Punkt auf, weils Privat ist und in der eigenen Verantwortung liegt.
In die Öffentlichkeit zu treten ist kein Freifahrtschein für Andere, solche Bilder zu generieren und User aus einem Computerforum bestimmen auch nicht für Andere, was sie zu erdulden haben.
Es wird ein (einfaches) Feindbild (in diesem Fall eben Musk persönlich) aufgebaut und ganz klar ideologisch verfolgt - das Motiv wird häufig (wie auch hier) ja sogar direkt genannt
Bei sexueller Darstellung von Kindern bin ich bei euch.
Man sollte der KI Restrictions setzen und diese richtig trainieren damit sowas nicht möglich ist,
gleichzeitig sollte man aber auch Konten löschen die sowas anfragen.
Natürlich ist sowas widerlich, aber anderseits auch nichts das es erst seit KI gäbe.
Sondern jeder mit halbwegs passablen Photoshop-Skills kann Köpfe von Kindern und Jugendlichen auf Körper von jungen Erwachsenen montieren und die Körper anschliessend so bearbeiten das sie jünger aussehen.
Eine KI wie Grok macht da im Prinzip auch nichts anderes.
