News Gefahr für Millionen Kinder: OpenAI-Mitarbeiter sehen Ero­tik-Modus weiterhin kritisch

[mischaef]

Mitarbeiter von OpenAI sehen beim geplanten Erotik-Modus für ChatGPT Kinder weiterhin nicht ausreichend geschützt. Aus ihrer Sicht besteht die berechtigte Gefahr, dass Millionen Minderjährige mit nicht jugendfreien Inhalten konfrontiert werden. Insbesondere die Altersüberprüfung gilt als problematisch.

Zur News: Gefahr für Millionen Kinder: OpenAI-Mitarbeiter sehen Ero­tik-Modus weiterhin kritisch

 

[R4nd0]

Da sind doch primär die Eltern gefragt. Bei Grok zb kann ich für meinen Sohn den Kindermodus erzwingen. Auch sonst ist die Benutzungszeit uvm über die iCloud Eltern Kinder Beziehung Eingeschränkt.

 

[Axxid]

Andere Webseiten nutzen KI um das Alter der Nutzer zu bestimmen, aber die reine KI-Seite hat Probleme?

 

[Zer0DEV]

Kommt dieser Erotik-Modus dann als SexGPT in der Version 6.66?

 

[fab.erg]

Ich weiß Sex sells, aber ist OpenAI so verzweifelt auf der Suche nach zahlenden Nutzern? Fehlt doch ein wirklich ausreichend sinnvoller, tragfähiger Business-Case? Lässt dann ja alle KI Kritiker hoffen ...

Ergänzung (Heute um 07:21)

Kommt dieser Erotik-Modus dann als SexGPT in der Version 6.66?

Eher 6.9

 

[LikeHike]

Ich weiß Sex sells, aber ist OpenAI so verzweifelt auf der Suche nach zahlenden Nutzern?

Offensichtlich.

Fehlt doch ein wirklich ausreichend sinnvoller, tragfähiger Business-Case?

Nein, eigentlich gibt es in der freien Wirtschaft als auch beim Staat für KI im Rahmen der Prozessautomatisierung, Fallbearbeitung als auch in allen kreativen Bereichen mehr als genug Use Cases.

Das Problem ist, dass diejenigen die das große Geld dafür haben in der Regel deutlich langsamer auf solche Techniken aufspringen als Open AI Geld investieren will. Oder anders gesagt, bis hier mal jemand auf die Idee kommt alle Bauanträge, Asylanträge, Strafanträge etc. mit KI zu bearbeiten, müssen erst noch 10 Jahre Machbarkeitsstudien und Unsummen in Ineffizienz verbrannt werden.

 

[ElisaMüller]

aber ist OpenAI so verzweifelt auf der Suche nach zahlenden Nutzern?

Hast du mal deren Finanzen angeschaut?

Solange die fleissig weiter zahlende Investoren finden, die an die Märchen
"im Jahr 202X wird YY% des Codes mit AI geschrieben" und "im Jahr 202X werden YY% der Jobs durch AI abgelöst" glauben, können sie gerade noch so überleben.

Darum auch solche Schnappsankündigungen wie "100 Milliarden von NVIDIA, aber nur ein none binding agreement". Die hoffen dass ein Laie wie du das sieht und denkt "Boahh, die Investieren 100Milliarden, ich sollte auch noch Geld reinschmeissen"

Sobald auch nur einer kalte Füsse bekommt oder endlich mal Resultate sehen will, wirds ganz übel für OpenAI.

AI boyfriend, girlfriend oder sex bot ist tatsächlich die einzige Möglichkeit, die ich für OpenAI sehe.
Tatsache aktuell ist: fast niemand ist bereit 20$ im Monat für KI hinzulegen, obwohl die gleichen Leute kein Problem mit Netflix usw haben.
Gleichzeitg hören wir von immer mehr Menschen, die sich in ihren Chatbot verliebt haben und von "ihrem Partner" sprechen. Diese Leute würden bestimmt +100$ im Monat dafür locker machen.

 

[Bruzla]

Da sind doch primär die Eltern gefragt. Bei Grok zb kann ich für meinen Sohn den Kindermodus erzwingen. Auch sonst ist die Benutzungszeit uvm über die iCloud Eltern Kinder Beziehung Eingeschränkt.

Das ist immer häufig das Argument, wenn es um staatliche Regelungen geht.
Natürlich sind die Eltern gefragt, siehst ja, wie gut das funktioniert.
Warum muss den der Staat eingreifen was die Handynutzung in Schulen angeht? Oder warum sehe ich jeden Tag 3 Personen auf eScootern ohne Helm und Licht?

Diese Gesellschaft will ich nicht auf nen Porno-ChatBot loslassen.

 

[Jasmin83]

Nein, eigentlich gibt es in der freien Wirtschaft als auch beim Staat für KI im Rahmen der Prozessautomatisierung, Fallbearbeitung als auch in allen kreativen Bereichen mehr als genug Use Cases.

Gibt es. Wäre ChatGPT auch in der Pro Version nur nicht so unglaublich schlecht, könnte man es auch verwenden, aber so wundert es mich nicht, das es läuft wie es läuft.

Klingt für mich nach einem Microsoft Move, verbessern ist egal, wie werfen mit Features um uns, komme was wolle und wird der Gegenwind zu stark, rudern wir halt zurück.

 

[iSight2TheBlind]

Kommt dieser Erotik-Modus dann als SexGPT in der Version 6.66?

Würde der Laden - so wie er es sich wünscht - Elon Musk gehören käme der Erotik-Modus mit Version 6.9 …

 

[lvke_]

Stellt sich mir die Frage der Verwaltbarkeit im Unternehmensumfeld.
Ist die Funktion direkt im normalen ChatGPT integriert, oder bekommt es z.B. eine eigene Subdomain die ich bsp. per GPO oder Firewall sperren kann?

 

[fab.erg]

Nein, eigentlich gibt es in der freien Wirtschaft als auch beim Staat für KI im Rahmen der Prozessautomatisierung, Fallbearbeitung als auch in allen kreativen Bereichen mehr als genug Use Cases.

Ja stimme Dir zu, nur vieles von dem was sinnvolle Anwendungen sind, sind gar nicht so sehr KI Fragestellung. Gute Prozessanalyse in Unternehmen, mit anschließender Reorganisation und Automatisierung braucht noch nicht mal KI.

Hast du mal deren Finanzen angeschaut?

Ja, das war auch eher rhetorisch gefragt :-)
Du hast Recht, deren Versprechen vom großen Geld kommt aktuell immer mehr ins Schwimmen

 

[HOCLN2]

SexGPT in der Version 6.66?

$69.69 per month

 

[Mondgesang]

Ich habe es seit Beginn des KI-Wahnsinns gesagt. KI, wie JEDE andere Technologie auch, wird nur das, was der Mensch schon ist, "mehr" machen. So wie Buchdruck, Video-Tape, Internet etc. Darstellung von Pornos und Gewalt in nie (zuvor) dagewesener Menge. Ende.

Jede Technologie kam mit der Hoffnung der Nutzer "jetzt wird endlich alles gut. Wir haben es geschafft". Das Internet vernetzt potentiell 8 Milliarden Menschen (Geister, Wissensschätze, Ansichten, etc). Und? Schaut euch Social Media an. Porn und Gore so weit das Auge reicht. Das menschliche Hirn ist immer noch ein Affe mit Stock, der an sich rumspielt.

Ich prophezeihe: wenn Quantencomputer soweit sind, wird eine er ersten Technologien virtuelle Partnerschaften, Lustprogramme etc. Legst dich einfach in diese Kammer, setzt den Helm auf, schließt die Nahrungszufuhr an und kannst erstmal für ne Woche oder zwei in dein virtuelles Leben abtauchen, die dir Nvidia dann zusammenrechnet.

 

[computerfouler]

Verbote, die Antwort auf alles!?
Die Generation ab 2000 ist doch bereits mit all dem Groß geworden. Freie Pornos auf jedem Handy, zunehmende Gewalt in Videos, Filmen, Spielen etc..
Die Werkzeuge ändern sich, sonst bleibt alles wie gehabt.
Der Unterschied könnte sein - KI generiert, müssen nicht echte Frauen/Kinder/Tiere/Männer und was sonst noch leiden.
Die großen Zünder in Wirtschaft/Netz/News sind und waren schon immer Krieg, Sex und Gewalt.
Die ganze Diskussion um Kinderschutz etc., ist vorgeschoben- es geht primär um Kontrolle.
Das Internet/KI mit, auch mit seinen Auswüchsen, ist in einem freien Land nicht zu kontrollieren und das ist auch gut so.
Wir werden lernen müssen damit umzugehen.

 

[DonDonat]

Generell sehe ich hier auch kein großes direktes Problem, wenn sie den Modus bringen.
Maximal mittel- und langfristig muss ich dann zeigen, ob ein solcher Modus negative Konsequenzen für die Kommunikation zwischen Menschen hat: doof wäre z.B. wenn weil die "KI" immer ja sagt weil dafür ist sie gebaut, dass dazu führt, dass wir mehr Konflikte in Beziehungen haben... Oder generell weniger Beziehungen weil die Leute dann lieber mit der immer ja sagenden "KI" chatten als mit einem echten Menschen.

Her lässt grüßen.

 

[Bruzla]

Verbote, die Antwort auf alles!?

Populistische Aussage, wir wissen alle, dass nicht jedem gesellschaftlichen Problem mit einem Verbot begegnet wird.

Die Tatsache, dass Pornos und andere fragwürdige Inhalte derart leicht zugänglich sind für Kinder und Jugendliche ist für mich kein Argument gegen das Verbot sondern dafür.

Es ist schlimm genug, mit was Kinder und Jugendliche konfrontiert werden, da braucht es kein Tool für 12 Jährige die aus einem normalen Bild ein Bikini-Foto oder schlimmeres machen können.

 

[Thares]

Wie soll man Kinder und Jugendliche in einer Zeit wirksam schützen, in der unzählige pornografische Inhalte jederzeit mit nur einem Klick verfügbar sind? Mit dem zusätzlichen Aufkommen von KI-generierter Erotik verschärft sich diese Problematik nochmals erheblich.

Ein vollständiges Verbot und die Entfernung solcher Inhalte aus dem Internet wären aus meiner Sicht die konsequenteste Lösung. Da dies jedoch in der Praxis kaum umsetzbar ist, kommt den Eltern eine zentrale Verantwortung zu. Sie sind gefordert, ihre Kinder altersgerecht aufzuklären und zu schützen. Bis zu einem gewissen Alter ist dies durchaus möglich – mit zunehmender Reife und spätestens mit Eintritt der Volljährigkeit liegt die Verantwortung dann beim Individuum selbst.

Persönlich vertrete ich die Ansicht, dass die Porno- und Erotikindustrie insgesamt kritisch zu betrachten ist, da sie aus meiner Sicht langfristig schädliche Auswirkungen auf den Menschen haben kann. Dabei möchte ich einige zentrale Argumente anführen:

Zum einen kann ein übermäßiger Konsum solcher Inhalte das Verständnis von Sexualität verzerren. Die dargestellten Szenen sind professionell inszeniert und entsprechen in der Regel nicht der Realität zwischen Partnern. Dies kann zu unrealistischen Erwartungen und einer Entfremdung von echten zwischenmenschlichen Erfahrungen führen.

Darüber hinaus besteht die Gefahr einer psychischen Abhängigkeit. Ähnlich wie bei anderen stimulierenden Reizen kann es zu einer Gewöhnung kommen, wodurch immer intensivere oder extremere Inhalte gesucht werden. Dies kann das Denken und Verhalten nachhaltig beeinflussen.

Nicht zuletzt können auch Beziehungen darunter leiden. Wenn die reale Intimität durch den Konsum solcher Inhalte verdrängt wird, kann dies zu einem Rückgang der emotionalen und körperlichen Nähe zwischen Partnern führen. Im Extremfall können solche Entwicklungen sogar zum Scheitern einer Beziehung beitragen.

 

[mischaef]

@Zer0DEV
Number of the Beast?

 

[mischaef]

Warum muss den der Staat eingreifen was die Handynutzung in Schulen angeht?

Nur der Korrektheit wegen: Hier greift nicht der Staat ein, sondern der Staat (oder eher das Land) gibt den Schulen rechtliche Möglichkeiten an die Hand, ein Verbot selber zu gestalten.