News Gefahr für Millionen Kinder: OpenAI-Mitarbeiter sehen Ero­tik-Modus weiterhin kritisch

[Weyoun]

Kommt dieser Erotik-Modus dann als SexGPT in der Version 6.66?

Das wäre dann "DevilGPT". Ansonsten eher Version 69 oder 6.9

 

[Bonsaicracker]

Der Erotikmodus, das ist also die Krone der KI-Schöpfung?!
… der eigene „Ethik-Rat“ sagt nein und der Chef sagt mir doch egal. Lächerlich!

Und jetzt schreiben hier auch welche, bei XY kann ich den Jugendschutz auch einstellen, warum nicht auch in Open AI. Einfach lächerlich!
Schon klar, Waffen töten nicht es der Mensch! Denk mal drüber nach.

 

[mischaef]

Schon klar, Waffen töten nicht es der Mensch! Denk mal drüber nach.

Das Argument ist nicht zielführend. Es gibt genügend Schutzmechanismen, damit nicht jeder an eine Waffe kommen kann. Wer diese nicht beachtet oder aushebelt, macht sich strafbar.

 

[Bonsaicracker]

@mischaef
Ok, anders formuliert:
Es müssen die Regelungen von dieser Stelle eingehalten werden:
https://www.bzkj.de/

Dazu gehört nicht, dass ich mit einem Klick beim Laden der Seite bestätige - ja ich bin über 18.

Vielleicht hätte ich auch direkt einen Verweis auf diesen Artikel posten sollen:
https://www.computerbase.de/news/ap...xuellem-kindesmissbrauch-durch-grok-ai.96578/

Für den einen mag es ein legitimes Geschäftsmodell sein. Der andere stellt sich die Frage, ob es nicht Ressourcen-Verschwendung ist. Energie und Speicher sind aktuell ein begrenztes Gut.

Ergänzung (18. März 2026)

Zumal sich auch im Beispiel GrokAI auch jugendliche schnell beim Verbreiten ungünstig generierter Bilder ggf. schwer strafbar machen.

Ergänzung (18. März 2026)

Das Argument ist nicht zielführend.

Ja, stimmt.

Besser wäre es zu schreiben, dass ich es falsch fände hier die Verantwortung auf die Nutzer abzuwälzen. KI an sich ist in meinen Augen ein mächtiges Werkzeug, hier liegt auch beim Hersteller eine große Verantwortung. Wenn jetzt hier der Hersteller nicht einmal auf seinen eigenen Ethik-Rat Rücksicht nimmt, dann finde ich das äußerst fragwürdig.

 

[bersi84]

Der Schritt kommt doch so oder so irgendwann, ist immer nur die Frage wer damit anfängt. Sich künstlich dagegen zu wehren oder aufzuregen ist wenig zielführend. Ordentliche Alterskennung dahinter wie bei anderen Angeboten dieser Art auch und weiter gehts. Immer dieses aufgesetzte Gejammer bei allem in Deutschland, echt anstrengend.

Absichern, Erfahrungen damit machen, verbessern - wie bei allem. Versteh das Problem nicht.

 

[mmdj]

man probiert also gegen das menschliche naturgesetz zu handeln. es liegt tief in unserer dna

 

[SirSilent]

Das Problem ist, dass diejenigen die das große Geld dafür haben in der Regel deutlich langsamer auf solche Techniken aufspringen als Open AI Geld investieren will. Oder anders gesagt, bis hier mal jemand auf die Idee kommt alle Bauanträge, Asylanträge, Strafanträge etc. mit KI zu bearbeiten, müssen erst noch 10 Jahre Machbarkeitsstudien und Unsummen in Ineffizienz verbrannt werden.

Du darfst nicht immer von Deutschland ausgehen, da hast Du absolut Recht. Aber der Rest der Welt ist wesentlich schneller mit solchen Entwicklungen. Ich bin mir sicher in China wird das alles schon gemacht.

 

[gruuli]

Gleichzeitg hören wir von immer mehr Menschen, die sich in ihren Chatbot verliebt haben

Finde ich auch sehr kritisch, gesellschaftlich gesehen, aber überrascht mich auch 0%.

 

[Der Puritaner]

Die KI ist sowieso nur der Feuchte Wunsch von einem Nerd Programmierers.

 

[Bonsaicracker]

Du darfst nicht immer von Deutschland ausgehen, da hast Du absolut Recht

Naja, ich weiß das es Projekte gibt, die deutlich weiter als ein Pilotprojekt sind und sogar produktiv eingesetzt werden. Sicher da gibt es noch verdammt viel Potenzial. Aber der Einsatz ist für die Verwaltungen mit hohen Kosten verbunden, so dass sich im kommunalen Bereich der Einsatz nur für große Städte lohnt.
Hinzukommt, dass die Einsatzgebiete und Arbeitsprozesse auf Grund von Zuständigkeiten und Rechtsvorschriften stark heterogen sind. Letztendlich haben wir zum Glück noch immer die gute alte DSGVO 😉

 

[Weedlord]

Warum muss den der Staat eingreifen was die Handynutzung in Schulen angeht?

Ich weiß, du willst wahrscheinlich die Frage nicht beantwortet haben, aber aus der Erfahrung aus meinem Umfeld liegt das vorallem daran, weil Handys in der Schule teils sogar benötigt werden für den Unterricht und Sozial das unter den Schülern erwarted wird, das jeder ein Handy hat. Haste keins biste automatisch in sehr vielen Fällen der Außenseiter mit dem keiner redet.

Sprich die Eltern sind Machtlos und benötigen staatliche Regulation damit die meisten Kinder keinen Zugriff zumindest auf Sozial Media mehr haben und die es Ihren Kindern verbieten können zu nutzen, ohne diesen dadurch massive zu schaden.

 

[R4Z3R]

Tatsache aktuell ist: fast niemand ist bereit 20$ im Monat für KI hinzulegen,

Das ist komplett falsch.

 

[MiSar]

Deshalb lassen sie sich doch damit so lange Zeit.
Und ob es so offen wie bei Grok wird denke ich nicht.
Kinder müssen nur Grok installieren und bekommen die ganze Reihe an Erotik, Psycho, Narzissmus.
Wenn OpenAI es aber sicherer machen möchte ist das doch in Ordnung in Anbetracht dessen das sie sich Zeit lassen.
Außerdem gibt es gar keine klaren Aussagen darüber wie offen ChatGPT überhaupt wird wenn ein Adult Mode kommt

 

[calluna]

Das ist komplett falsch.

Aha… die Anzahl an Personen, die z.B. ChatGPT nutzen und die Zahl an Personen, die dafür bezahlen bestätigen aber seine Aussage.

Wöchentlich rund 900 Millionen Nutzer bei 50 Millionen Privatkunden, die Zahlen und 9 Millionen Businesslizenzen … über 90% Kunden, die nicht Bezahlen wollen.

 

[ElisaMüller]

Das ist komplett falsch.

Nein ist es nicht. Das belegen die lächerlichen Umsatzzahlen.

Selbst Microsoft, die Verkaufsmaschine schlechthin, mit +4 Millionen (450 Millionen User) zahlende Microsoft 365 Geschäftkunden, hat Copilot was für ein conversion rate? Noch nicht mal 1%?

Trotz Umbenennung zu Microsoft 365 Copilot Business und trotz zahlreicher Rabattaktionen?
Ich meine, KI ist ja angeblich die Zukunftstechnik schlechthin, der Effizienz Gewinn und es mangelt überall an Strom und Compute und Rechencenter usw. aber Microsoft fährt trotz dieser Mangellage eine Rabattaktion weil es so geil läuft?

 

[bender83]

Aktuell wird KI sowieso schon für viel nutzloses genutzt. Dann bringen die noch eine Sex-KI, damit noch mehr unnütze Zugriffe stattfinden, was die aktuellen Probleme wie Hardwarepreise, Energieverbrauch, etc. noch mehr verschärft. Für was genau?
Es gibt klar Einsatzzwecke für KI. Sie macht auch für einiges Sinn. Aber sie ist aktuell auch noch sehr fehlerhaft, selbst bei einfachen Anfragen und bedarf eigener Überprüfungen. Nur habe ich das Gefühl, dass die Verbesserungssprünge aktuell nicht mehr so gross. Trotzdem steigt der Energiebedarf schier ins unermessliche. Passt ja, wie haben ja auch in Europa stillgelegte Atomkraftwerke, welche wir für die KI Datenzentren wieder ins Netz nehmen können...
Ich finde auch, dass das Ganze deutlich stärker staatlich reguliert werden muss. Die KI-Firmen können aktuell gefühlt mache was sie wollen. Da werden illegal Daten fremder für das Training genutzt. Keiner wird irgendwie dafür bezahlt, man macht das einfach. Fortschritt über alle Köpfe hinweg und wirklich profitieren tun ein paar wenige. Die Politik ist ja allgemein planlos, auch was der Wegfall von Jobs in der Zukunft bedeutet.
Und wenn die so einen Sex-Chat-GPT machen wollen muss das reguliert werden. Wie willst du Kinder davor schützen? Der Zugang darf nicht so einfach sein und wenn schon aussagen kommen, dass man aktuell nicht 100%ig ausschliessen kann, dass solche Inhalte nicht auch auf im normalen Chat-GPT angezeigt werden könnten, dann darf der Dienst so nicht ans Netz. Dafür haben sie zu Sorgen, wie auch der sichere Zugang, so dass es möglichst ausgeschlossen ist, dass ein Kind da sich ganz einfach anmelden kann.
Sowas ist den KI- und Social-Media Firmen doch immer schon egal gewesen, denn das gibt ja Klicks und damit Geld.

 

[Kuomo]

Opfer Kunden die emotional und sozial von einem abhängig sind, sind die treuesten Kunden. Mit denen kannst du machen was du willst, total geil.

 

[alex197]

Würde der Laden - so wie er es sich wünscht - Elon Musk gehören käme der Erotik-Modus mit Version 6.9 …

btw Grok hatte diesbezüglich nie irgendwelche Einschränkungen.

 

[mischaef]

Ich weiß, du willst wahrscheinlich die Frage nicht beantwortet haben, aber aus der Erfahrung aus meinem Umfeld liegt das vorallem daran, weil Handys in der Schule teils sogar benötigt werden für den Unterricht und Sozial das unter den Schülern erwarted wird, das jeder ein Handy hat. Haste keins biste automatisch in sehr vielen Fällen der Außenseiter mit dem keiner redet.

Mit dem sozialen Aspekt machst Du es Dir in meinen Augen aber etwas zu einfach. Das Smartphone wird heute schlicht benötigt, um mit anderen in Kontakt zu bleiben. Unser Junior spielt Handball, da läuft im Verrein alles über Spond und WA - ohne Smartphone wäre er aufgeschmissen.

Sprich die Eltern sind Machtlos und benötigen staatliche Regulation damit die meisten Kinder keinen Zugriff zumindest auf Sozial Media mehr haben und die es Ihren Kindern verbieten können zu nutzen, ohne diesen dadurch massive zu schaden.

Und schon wieder der in meinen Augen typisch deutsche Verbotsfetischimus. Warum den Jugendlichen nicht einfach mal Medienkompetenzen beibringen? Wäre vielleicht mal was anderes.

 

[mischaef]

Wöchentlich rund 900 Millionen Nutzer bei 50 Millionen Privatkunden, die Zahlen und 9 Millionen Businesslizenzen … über 90% Kunden, die nicht Bezahlen wollen.

Die Zahlen sprechen für ChatGPT, nicht aber generell für KI. Und dann müsste man alle KI-Unterstützungen mit einbeziehen, beispielsweise auch die in anderen Programmen.