News Weltweite Einführung: Wasserzeichen für mit Claude erstellte Texte

[mischaef]

Anthropic versieht Texte, die mit neuen Claude-Modellen erstellt werden, mit unsichtbaren, maschinenlesbaren Wasserzeichen. Die Markierung wird direkt auf Modellebene eingebettet und soll deshalb auch beim Kopieren der Inhalte erhalten bleiben. Einen eindeutigen Nachweis für die Nutzung von Claude liefert sie jedoch nicht.

Zur News: Weltweite Einführung: Wasserzeichen für mit Claude erstellte Texte

 

[Rickmer]

Das begrüße ich sehr.

Jedoch:

Vielmehr ist sie als Hinweis darauf zu verstehen, dass der Text zumindest mit dem KI-Modell bearbeitet worden ist. Das kann beispielsweise auch der Fall sein, wenn ein selbst geschriebener Text lediglich mit Claude korrigiert, übersetzt, zusammengefasst oder neu formatiert wurde.

Mal schauen, wie viele 'Hexenjagden' stattfinden werden weil jemand das vergessen oder willkürlich ignoriert hat.

Insbesondere fürs Übersetzen nutze ich gerne LLMs weil die meiner Erfahrung nach besser sind als herkömmlichere Methoden wie Google Translate.


Als ITler habe ich auch ganz konkret kein Problem damit, wenn jemand ein KI generiertes Skript verwendet weil das erheblich schneller ist (sein kann) als das Skript selbst zu schreiben.
Aber der muss mir auch zeigen können, dass er das Skript versteht, vollständig korrektur gelesen und getestet hat bevor es produktiv verwendet wird!

 

[Augen1337]

Also zusammengefasst: Schlangenöl
Quo vadis? Doch nur Anthropic, weil sie sagen können, sie hätten etwas gemacht.

• Wenn es drin ist, ist Claude in irgendeiner unbestimmten Art und Weise nicht, ganz oder nur teilweise beteiligt.
• Ist es nicht im Text, ist Claude in irgendeiner unbestimmten Art und Weise nicht, ganz oder nur teilweise beteiligt.

Horraaay!!

 

[the_IT_Guy]

Also ab jetzt immer erst bei Notepad Einfügen und wieder raus kopieren😆

 

[FrAGgi]

Bin gespannt zu was das alles genau führen wird.
Meine Texte, die öffentlich zugänglich gemacht werden, landen quasi immer nochmal in einem der KI-Systeme für eine abschließende Prüfung.
Zusätzlich lasse ich mir da gerne noch Hinweise zu Ergänzungen geben.
Das funktioniert einfach unfassbar gut.

Manche Leute reagieren aber allergisch, wenn es heißt, dass da eine KI am Werk war. Ganz egal, wie groß der Einfluss dieser war und was da genau gemacht wurde.

 

[Augen1337]

bei Notepad Einfügen und wieder raus kopieren

Nein, das wird sehr wohl nicht helfen. Eher vom Bildschirm abfotografieren / screenshotten und dann per OCR auslesen. Es sei denn es ist ein Sprachmuster, dann würde es diese Methode auch überstehen.

 

[diamdomi]

Also ab jetzt immer erst bei Notepad Einfügen und wieder raus kopieren😆

Das ändert nichts. Der erstellte Text selbst enthält diese "unsichtbaren" Flags. Es müsste also der Text selbst "stärker" bearbeitet werden.

Am Ende des Tages ist auch ein solches Flag keine Garantie, dass KI im Einsatz war.

 

[Godric]

Also ab jetzt immer erst bei Notepad Einfügen und wieder raus kopieren😆

Glaube beim kopieren bleibt es enthalten - also auch von Claude zu Notepad und von Notepad in die entsprechende Anwendung (Word, HTML etc.)

Oder?

 

[G00fY]

Mir reicht als Wasserzeichen aktuell immer schon wenn ich Gedankenstrich – statt Bindestrich - in Texten sehe.

Ich vermute technisch wird dies auch über fest definierte ASCII bzw. UTF-8 Zeichen abgebildet werden (was anderes fällt mir nicht ein). Somit wäre dies auch nach copy&paste zwischen Anwendungen noch vorhanden, aber auch einfach zu "bereinigen".

 

[Nitschi66]

Der erstellte Text selbst enthält diese "unsichtbaren" Flags.

Dann frage ich mich, wie sie das technisch umsetzen. Hätte jetzt auch gedacht, dass ein kopieren in den text-editor nur noch den Text selbst beibehält.

@G00fY Oh dann muss ich aufpassen, Mac OS/ iOS korrigiert da gerne mal den strich - auch ohne mein zutun Edit: Ach nee, das macht word!

 

[Augen1337]

Wenn es zeichenbasiert ist, wird es wohl mehrere Flag-Möglichkeiten geben:

• Unsichtbare Zeichen, die aber natürlich mitkopiert werden würden.
• Ersetzen von üblichen Zeichen in einem Fließtext durch andere Unicode-Zeichen, die jedoch von vielen Systemen als das gewünschte Zeichen interpretiert werden und auch visuell nicht zu unterscheiden sind.

Wenn es sprachbasiert ist, müssten sich bestimmte Formulierungen, deren Aneinanderreihung oder deren Nutzungsmuster zur Erkennung führen. Dann bräuchte es aber auch gewisse Textlängen, dass diese Muster auch genügend Platz im Fließtext haben.

Daraus kann man natürlich auch beliebig Kombinieren, so dass nachher eine Chance ausgegeben wird, ob spezifische Muster und Zeichen auf Claude-Output hindeuten.

Aber wie gesagt: Bringt absolut nichts, da keine Aussagekraft.

 

[the_IT_Guy]

Nein, das wird sehr wohl nicht helfen. Eher vom Bildschirm abfotografieren / screenshotten und dann per OCR auslesen. Es sei denn es ist ein Sprachmuster.

Kopieren und einfügen in den Windows Editor/Notepad entfernt NOCH zuverlässig sämtliche Metadaten/Formatierungsinformationen.
Kann sein, dass Microsoft in Zukunft immer mehr ein kleines Wordpad draus macht, aber im Moment ist Notepad ein Reiner Texteditor und es würde kein Unterschied machen zu der OCR Methode.

Ich vermute auch, dass es eher Sprachmuster sind und grammatikalische Besonderheiten wie der berühmte Gedankenstrich.
Aber das ist halt alles maximal unzuverlässig.

In Bildern ist es etwas einfacher ein paar Pixel zu manipulieren um ein relativ stabiles Wasserzeichen zu haben.

 

[Wo bin ich hier]

Wenn es Sprachbasiert ist, müssten sich bestimmte Formulierungen, deren Aneinanderreihung oder deren Nutzungsmuster zur Erkennung führen. Dann bräuchte es aber auch gewisse Textlängen, dass diese Muster auch genügend Platz im Fließtext haben.

Ich vermute eher sprachbasiert (zeichenbasiert wäre auch sehr einfach zu umgehen):

It is mostly possible. LLMs generate random text, with per-token probabilities. To select the tokens according to the probabilities, you use a random number generator. If, for some small part of that randomness, you use the last 10 words as a seed, you can statistically detect this randomness source in any generated text. Now you can make the effect of the watermarking on the generation arbitrarily small, simultaneously making the watermark easier to remove. Scott Aaronson came up with this approach while working at OpenAI years ago, but they decided not to implement it. He's written about it on his blog.

reddit.com/r/ClaudeAI/comments/1vky8at/comment/p2x8p5z/
youtube.com/watch?v=2Kx9jbSMZqA

 

[e-hahn]

Mir wäre es lieber, diese Kennzeichnungspflicht hält bei Bild, Video und Ton mal Einzug, aber so richtig deutlich, es ist einfach nur nervig, wie man auch auf YouTube mit diesem AI Slop zugeballert wird.

Ansonsten nutze ich Claude hier ganz gerne für Zusammenfassungen und für das Erstellen von Dokumentationen für eine Software.

Wie muss ich mir das vorstellen, dass so eine Kennzeichnung unsichtbar direkt an den Text gekoppelt ist, die auch durch das Kopieren über die Zwischenablage erhalten bleibt?

 

[Augen1337]

Kopieren und einfügen in den Windows Editor/Notepad entfernt NOCH zuverlässig sämtliche Metadaten/Formatierungsinformationen.

Welches "o" ist das richtige? Was macht Notepad damit? Ich habe gerade kein Windows zur Hand:

о ο օ

Lt. Google kann Notepad UTF-16. Sollte also mit den Zeichen kein Problem haben.

 

[Rexaris]

Ich vermute, es wird eine Kombination aus mehreren Verfahren:

• Formatierungen, die kaum auffallen, aber durch Text-Editoren herausfallen könnten
• Einzelne Zeichen, ersetzen, die maschinell gelesen einen Unterschied machen, aber nicht für den Menschen
• Wortwahl/Formulierungen (ggf. statistische Analyse bei längeren Texten)
• Klassische Macken von KI-texten (siehe https://de.wikipedia.org/wiki/Wikipedia:Anzeichen_für_KI-generierte_Inhalte)

Am Ende funktioniert die Erkennung sogar noch KI-Basiert und gibt eine Wahrscheinlichkeit aus. Daher auch die vagen Aussagen zur Verlässlichkeit

 

[br3adwhale]

KI platziert Wasserzeichen in Texte, dann sind es garantiert auch Wasserzeichen, die von KI entfernt werden können

 

[Rickmer]

Mir reicht als Wasserzeichen aktuell immer schon wenn ich Gedankenstrich – statt Bindestrich - in Texten sehe.

Ich lese Texte die teils von klassisch trainierten Autoren erstellt werden, die nutzen gerne auch mal den en-dash und/oder em-dash. Die KI hat sich das nicht von nirgens antrainiert.

Der Gedankenstrich (en-dash) wird von Autocorrect teils auch automatisch eingesetzt wenn die Satzstruktur passt. Word macht das z.B., womit du wohl jeden in Word erfassten Text für KI hälst.

Klassische Macken von KI-texten (siehe https://de.wikipedia.org/wiki/Wikipedia:Anzeichen_für_KI-generierte_Inhalte)

Die Originalversion im englischen Wiki fängt direkt mit em-dashes im Text an, find ich witzig:

The patterns listed here are also only potential signs of a problem, not the problem itself. While many of these issues are immediately obvious and easy to fix—e.g., excessive boldface, broken markup, citation style quirks—they can point to less outwardly visible problems that carry much more serious policy risks. Please do not merely treat these signs as the problems to be fixed; that could just make detection harder. The actual problems are those deeper concerns, so make sure to address them, either yourself or by flagging them, per the relevant guide.

 

[Laktose-Larry]

offenbar ist damit eine Art steganografisches Signal gemeint, das die Token-Verteilung beeinflusst…

https://support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content

 

[Ruff_Ryders88]

Also zusammengefasst: Schlangenöl
Quo vadis? Doch nur Anthropic, weil sie sagen können, sie hätten etwas gemacht.

• Wenn es drin ist, ist Claude in irgendeiner unbestimmten Art und Weise nicht, ganz oder nur teilweise beteiligt.
• Ist es nicht im Text, ist Claude in irgendeiner unbestimmten Art und Weise nicht, ganz oder nur teilweise beteiligt.

Horraaay!!

Da werden dann einige Säue durchs Dorf gejagt für.