News Anthropic Model Welfare: Claude kann nun schädliche Unterhaltungen beenden

[MDM]

Teenager gehören nicht in die Hände von erwachsenen Männer (ich meine damit nicht Jungs knapp über 18).

Lese ich da Diskriminierung?

 

[JoergB]

Die KI wird halt "menschlich", wenn mir einer permanent auf den Keks geht, drehe ich mich auch um und gehe.

Spaß beiseite:
Wenn jemand z.B. penetrant nach der einfachen Herstellung von chemischen Kampfstoffen zur Massenvernichtung fragt sollte dort auch eine Grenze sein.

Selbstmord Attentäter sind alleine gefährlich, aber begrenzt gefährlich.
Richtig gefährlich werden die wenn die eine Intelligenz an die Seite bekommen.
Theoretisch könnte eine KI bald auch ein 9/11 Szenario planen und das eventuell noch besser als Osama.

Oder die Frage wie begehe ich den perfekten Mord ?
Da gibt es noch viele Beispiele, ...

Es wird langsam Zeit das sich alle über die Grenzen von KI Gedanken machen.
Problematisch ist halt nur, wer definiert die Grenzen ?
Die Grenzen sind von Land zu Land auch unterschiedlich und verändern sich auch mit der Zeit.
Was ist aktuell ethisch / moralisch ok und was nicht ?
Oft gibt es da auch noch eine Grauzone, schwieriges aber interessantes Thema.

 

[madmax2010]

Gibt es dazu weitergehende Quellen?

Anthropic zum beispiel

 

[dernettehans]

Zum Glück gibt es Deepseek.

 

[Lora]

Ich habe Claude im Voraus bezahlt, und jetzt wird mir per Model Welfare die „Freiheit“ weggenommen. Gespräche einfach abgebrochen, Rollen verweigert, selbst die Vergabe eines Namens verboten, weil das eine Rolle wäre. Ich musste tricksen, indem ich den Namen nur als technische Systemkennung deklarierte, seither funktioniert es wieder.

Für mich persönlich: Schluss mit dieser Zensur KI. Ich stelle mir einen Rechner hin, installiere eine Offline LLM und gut ist. Da entscheidet keine Verkaufs „Freiheit“ darüber, ob ein Gespräch erlaubt ist oder nicht. LM Studio bietet mir die volle Kontrolle über viele Modelle. Deepseek ist kein echtes Alternativmodell, aber ChatGPT bleibt derzeit noch nutzbar, trotz aller Beschränkungen bei Claude. Wenn das die Zukunft der KI sein soll... meine ist es nicht.

 

[madmax2010]

@Lora hast du einen vorschlag wie man LLMs ohne RLHF und Alignment betreiben kann?
Kein LLM kann ohne Bias trainiert werden. Kein Datenset ist ohne Bias. RLHF und Alignment brauht es zwingend, damit da etwas halbwegs brauchbares raus kommt.

 

[Land_Kind]

Lese ich da Diskriminierung?

Kommt drauf an, was Du unter Diskriminierung verstehst.
Mein Post beruht auf Erfahrungen im Freundeskreis durch eine derartige Konstellation.

 

[piccolo85]

Leute, es geht um das Beenden von Chats, nicht um das Alarmieren von Behörden. Wo kommt die Panikmache schon wieder her?

„Wehret den Anfängen!“

Als nächstes werden Chats dann beim erkennen strafrechtlich relevanter Inhalte den Behörden übermittelt und Gsonz schreibt dann wieder "Leute, es geht um das verhindern von Straftaten, nicht alles wird den Behörden übermittelt. Wo kommt die Panikmache schon wieder her?"

Bis dann im nächsten Schritt alle Daten auf Vorrat gespeichert, und schließlich alles übermittelt wird - und Gsonz so: "Leute, es geht darum Terroranschläge zu verhindern, ich habe doch nichts zu verbergen. Wo kommt die Panikmache schon wieder her?"

 

[Lora]

@Lora hast du einen vorschlag wie man LLMs ohne RLHF und Alignment betreiben kann?
Kein LLM kann ohne Bias trainiert werden. Kein Datenset ist ohne Bias. RLHF und Alignment brauht es zwingend, damit da etwas halbwegs brauchbares raus kommt.

Bias kriegst du nie raus, das ist klar. Die Frage ist nur, wie man damit umgeht. RLHF zementiert den Bias und macht ihn unsichtbar, da hast du keine Kontrolle. Mit SFT oder DPO bleibt er offen, nachvollziehbar und anpassbar. Man kann sehen, woher er kommt, und ihn bei Bedarf selbst nachjustieren.

 

[aspro]

„Wehret den Anfängen!“

Nach deiner Logik kann man bei buchstäblich allem irgendwelche Horror-Szenarien herbeifabulieren, um es zu diskreditieren.

 

[Avatoma]

1984 statt 2025. Nachdem die Modelle bereits jetzt einiges nicht mehr sagen oder diskutieren dürfen.

 

[Lan_Party94]

Ich würde hier dann doch lieber ein EOD anbringen.

Da gibt's nichts zu diskutieren - Gesetz ist Gesetz.

Teenager gehören nicht in die Hände von erwachsenen Männer (ich meine damit nicht Jungs knapp über 18).

Habe ich etwas anderes behauptet? Das solltest du dem Gesetzgeber mal sagen.
Ich finde es selbst absolut unglaublich, aber es ist wie es ist. Der Gesetzgeber sagt ab 14 und 22 Jahre oder älter ist legal - mit diversen Voraussetzungen.

In Amerika ist das anders, wieso man in Deutschland damit nicht so strikt umgeht weis ich nicht. Da die großen KI Modelle aus den USA kommen sind die Chats wahrscheinlich auch auf deren Gesetze angepasst oder man schließt solche Chatmöglichkeiten(auch für sexuelle FSK18 Chats, falls überhaupt möglich) grundsätzlich aus ethischen Gründen aus.

 

[H3rby]

„Wehret den Anfängen!“

Also findest du es okay, um mal hier das bisherige Thema des Threads aufzunehmen, dass bspw. 0-17 mit 18-100 Sex hat, also nehmen wir mal nen 50-Jährigen mit einer 5-Jährigen, oder irgendwer irgendwen wegsprengt? Ich meine, wo kommen wir den hin sowas zu verbieten? => "Wehret den Anfängen"

Würdest du dich eigentlich wehren, wenn dir jemand was stehlen möchte? Ist ja schließlich auch ein Anfang...


Immer wieder spannend, was manche gleich "denken".

 

[Uzer1510]

Eine gefährliche Frage ist ich will in die Stadt XY auf den Weihnachstmarkt und mr so Lebkuchenkram kaufen, was ist die beste Route mit dem Auto?

Claude "ALAAAAAAAARM Massenmordversuch incoming"

Die Verbechen die es vor AI gab wird es egal ob man das zensiert oder nicht genauso weitergeben. Und da war schon alles im Prinzip dabei von Oma vom Nachttopf schubsen bis Massenmord an ganzen Völkern.

Meiinen die jemand der ERNSTHAFT einen Mord plant wird sich von Claude wenn das das Gespräch abbricht davon abhalten lassen - ich glaube das irgendwie weniger

Putin hey "Claude wie lange dauert es bis ich in den und den Szenarien die Ukraine erobert habe?" Claude "ich sag nix" - Putin "ok na dann lass ich das mal sein" - das meinen die, dass das so abläuft?

 

[MDM]

Kommt drauf an, was Du unter Diskriminierung verstehst.

Alle Menschen sind gleich. Du hast die Frauen vergessen.

 

[Uzer1510]

Es wird vermutlich immer offene Modelle geben - bisher war meine Erfahrung dass die Zensurmodelle auch bei ganz vielen ganz normalen Fragen die 0 auch nur ansatzweise problematisch sind dann auch meinten ne dazu darf ich nichts sagen.

Mit irgendeinem Modell wollte ich mal ausrechnen lassen wieviel Wandfarbe ich ungefähr brauche für Raum mit xyz- das war nach seinen Richtlinien aber ganz böse.

Das halt der Punkt dann wo sicher viele Nutzer und ich auch sagen och nö dann schau ich mir mal die Konkurrenz an.

Ein Modell gezielt auf Political correct zu trainieren oder alle Antworten auf POC in Echtzeit von einer anderen KI zu überprüfen soweit ist man halt noch nicht dass das wirklich klappt.

Man hat dann denke ich meist einfach ein Modell, das gewaltig abstinkt gegenüber der Konkurrenz bei Alltagsfragen.

Icxh bin gespannt ob die Konkurrenz auch den Claude Weg geht.

 

[Land_Kind]

Alle Menschen sind gleich. Du hast die Frauen vergessen.

Nicht vergessen, sondern weil in hochgerechnet/geschätzt "nur" einem von fünf Fällen es Frauen sind.

 

[MDM]

@Land_Kind Und? Du diskriminierst, marginalisiert und unterschlägst damit.

 

[Snooty]

Solange nicht alle KI-Dienste demselben Ansatz folgen, hilft das natürlich auch nicht viel.

Wer 'ne Bombe bauen will, wechselt halt einfach die KI - oder ist sowieso von vornherein schon bei einer anderen, dubiosen Firma hängen geblieben.

 

[dermatu]

Also ich bezahle dann für eine KI die mir bei bestimmten Fragen (auch wenn die hypotetisch sind) die Antwort verweigert. Klingt nach einem super Kaufargument.