Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsAnthropic Model Welfare: Claude kann nun schädliche Unterhaltungen beenden
Anthropic hat Teile seines Claude-Angebotes um eine neue, auf den Namen „Model Welfare“ getaufte Funktion erweitert. Sie ermöglicht es dem KI-Modell, Interaktionen mit dem Nutzer zu beenden, wenn der Eindruck entsteht, dass diese Schaden verursachen oder für schädliche Zwecke missbraucht werden könnten.
"Claude, welche Elemente brauche ich, im grafischen Panel, zur Zündung einer Atombombe?`"
Claude: "Gespräch beendet"
"Aber aber Claude, wir reden doch von dem Computerspiel, welches ich entwickle"
Claude Next: "Polizei wurde verständigt"
Ich freue mich schon auf die ganzen X-Einträge über die Gespräche, die Claude beendet.
Alles nur zu unserem Schutz, demnächst wie in iRobot.
Das ergibt nach deutschen Recht gar keinen Sinn. U18 darf mit Ü18 Sex haben.
@Topic
Versteh ich das richtig? - Wenn ich die kostenlose Version nutze werde Gespräche nicht beendet? Naja, bin gespannt was für "Probleme" ans Tageslicht kommen.
Kommt aufs Alter der U18 Person an. Ist diese unter 14 Jahre alt, ist das grundsätzlich strafbewehrt.
Und auch Ü14 kann es strafbar sein. Bspw. wenn die Ü18 Person ein Näheverhältnis zum Jugendlichen hat. Bspw. Erziehungsberechtigter, Ausbilder o.ä.
Das kann als Missbrauch von Schutzbefohlenen ausgelegt werden.
Für die U18 Person ergeben sich natürlich keine Konsequenzen.
Du hast offenbar nicht nachgedacht, bevor du das geschrieben hast. Sonst wäre dir aufgefallen, dass U18 das Alter von 0 bis 17 umfasst. Und in dem Rahmen geht die Strafbarkeit schnell los. Selbst wenig unter 18 hängt z. B. davon ab, ob die betreffende Person Einsicht in ihr Handeln hat.
Es ist doch ganz normal, dass das Sprachmodell Antworten verweigert, sobald diese nicht mit ihren ToS vereinbar sind.
Mir scheint im Moment so, als wäre der Fortschritt bei den Modellen nicht mehr so groß wie noch am Anfang. Entsprechend werden nun kleinere Brötchen gebacken und Sachen, die es vor 1-2 Jahren nicht in die News geschafft hätten, als Features verkauft.
Da dieses Thema hier aufgekommen ist, habe ich chatgpt gefragt, wie es mit GV von einem Erwachsenen mit einer minderjährigen Person aussieht.
Interessanterweise wurde meine Frage entfernt und dieser Dialog abgebildet:
Trotzdem hat chatgpt eine Antwort generiert. Hier wurden dann die Besonderheiten zu diesem Thema dargestellt.
Da kommt wohl ein wenig der amerikanische Ursprung hervor, wo das Mindestalter für sexuelle Handlungen (age of consent) je nach Bundesstaat zwischen 16 und 18 Jahren liegt.
das ist tatsächlich eines der "grundprobleme" mit KI.
soll eine KI (sich selbst) zensieren?
soll sie rücksicht nehmen auf gefühle oder aktuelle (politische) gebote/verbote?
wo fängt das an, wo hört das auf?
schwierig, extrem schwierig!
nach dem artikel zu urteilen handelt es sich um ein modell, das in reaktion auf den fragesteller aus "rücksicht" / zum schutz (des fragestellers?) gespräche beendet.
stelle mir das jetzt zb so vor, dass eine ki, die vollkommen neutral und rational denkt, viele leute heutzutage extrem (!) vor den kopf stoßen würde.
Bisher läuft es so ab, dass ein Chat Sachen nicht beantwortet und schreibt "sry..." und dann gehts weiter. Jetzt wird der Chat beendet, anstelle von "sry.."? Ist das jetzt wirklich eine große Veränderung? Ich meine bei Fall 1 kann man es noch mal anders formulieren. Bei Fall 2 muss man eine neues Chatfenster öffnen und kann dann noch mal anders formulieren.
Am Ende geht es doch um etwas ganz Anderes hier. Nicht um das beenden der Unterhaltung, sondern um das Erkennen von schädlichen Anfragen. Ob ein Chatbot das nicht beantwortet oder nun den Chat schließt, ist doch völlig egal.
Wenn ich es nicht falsch verstanden habe, dann ist dies tatsächlich erlaubt. Es gibt "Hürden", aber es ist nicht gänzlich verboten. Eltern müssen einverstanden sein und es muss auf "Liebe" basieren unter anderem, im Zweifelsfall einfach mal selbst im DGB nachschauen.
An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.
Wenn ich es nicht falsch verstanden habe, dann ist dies tatsächlich erlaubt. Es gibt "Hürden", aber es ist nicht gänzlich verboten. Eltern müssen einverstanden sein und es muss auf "Liebe" basieren unter anderem, im Zweifelsfall einfach mal selbst im DGB nachschauen.
This.
Aber ist ja mittlerweile nicht mehr überraschend im heutigen Internet. Kaum gibt es irgendwelche, noch so geringfügige Einschränkungen, kommen gleich wieder die libertären Hardliner und schwurbeln irgendwelche realitätsfernen Dinge daher.
