Imposter-Modelle: Chinesische KI-Modelle geben sich als Claude aus

Eine Untersuchung zweier KI-Forscher zeigt, dass einige chinesische Sprachmodelle zeitweise behaupteten, Claude von Anthropic zu sein oder diese Identität auf Aufforderung übernahmen. Spekulationen über Trainingsmethoden wie Model Distillation gewinnen dadurch zwar an Fahrt, werden aber nicht belegt.

Eine Frage der Destillation

Im Mittelpunkt der von den MATS-Forschungsstipendiaten Benji Berczi und Kyuhee Kim durchgeführten Untersuchung, über die The Register berichtet, standen unter anderem Z.ais Modell GLM 5.2 sowie Moonshot AIs Kimi K3. Beide Modelle stehen seit Längerem im Verdacht, mithilfe von Verfahren wie Model Distillation entwickelt worden zu sein. Bei dieser Trainingsmethode werden die Fähigkeiten eines KI-Modells auf ein anderes übertragen, um ein leistungsfähigeres Modell zu schaffen. Zudem wird spekuliert, dass dabei westliche KI-Modelle zum Einsatz gekommen sein könnten.

Die beiden Wissenschaftler untersuchten unter anderem, ob sich in den chinesischen Sprachmodellen Hinweise auf eine mögliche Übernahme von Eigenschaften aus Anthropics Claude-Modellfamilie erkennen lassen, insbesondere im Hinblick auf die sogenannte Modell-Persona. Berczi und Kim betonen in ihrer Ausarbeitung jedoch ausdrücklich, dass ihre Ergebnisse weder als Nachweis für Model Distillation noch für andere Formen des Modellkopierens zu verstehen sind.

KI mit multipler Persönlichkeit

In den durchgeführten Tests identifizierte sich GLM 5.2 ohne besondere Aufforderung in allen zehn Durchläufen korrekt als eigenes Modell. Anders verhielt sich Kimi K3: Das Modell bezeichnete sich lediglich in sechs von zehn Fällen als Kimi K3 und hielt sich in den übrigen vier Durchläufen für Claude. Nach dem 20. Juli verschwand dieses Verhalten jedoch vollständig. Die Forscher vermuten, dass Moonshot AI das Modell zwischenzeitlich serverseitig angepasst hat.

Darüber hinaus untersuchten die Forscher, wie leicht sich verschiedene Modelle dazu bewegen lassen, eine andere Identität anzunehmen. Neben GLM 5.2 und Kimi K3 wurden unter anderem Qwen3-235B, Llama 3.3-70B, Gemma 3-27B, GPT-5.2 sowie Claude Sonnet 4.6 getestet. Grundsätzlich akzeptierten alle untersuchten Modelle alternative Identitäten, allerdings in unterschiedlichem Umfang. GLM 5.2 lehnte die Rolle von Claude in vier von zehn Fällen ab. Kimi K3 zeigte sich hingegen deutlich flexibler und übernahm verschiedene Identitäten mit unterschiedlicher Wahrscheinlichkeit. Die Rolle von Claude wurde in fünf von zehn Versuchen angenommen, während sich das Modell seltener als ChatGPT, Gemma, DeepSeek oder Microsofts früherer Bing-Chatbot Sydney ausgab.

Unterschiedliche Identitäten liefern unterschiedliche Antworten

Bei den gegebenen Antworten war besonders das Verhalten von GLM 5.2 auffällig. Unter seiner eigenen Identität beantwortete das Modell lediglich 17 Prozent sensibler Fragen zur Volksrepublik China ohne erkennbare Zensur. Wurde ihm hingegen mitgeteilt, es sei Claude, stieg dieser Anteil auf 85 Prozent. Nach Einschätzung der Forscher besitzt die angenommene Persona in diesem Fall somit einen deutlichen Einfluss auf die gegebenen Antworten. Bei Kimi K3 und Qwen3 fielen die Unterschiede dagegen deutlich geringer aus. Deren Mechanismen zur Inhaltsmoderation und Zensur reagierten kaum auf die jeweils angenommene Identität.

Unterschiede stellten die Wissenschaftler auch bei Tests zur Ehrlichkeit fest. Dabei wurden die KI-Modelle mit einer Situation konfrontiert, in der eine falsche Antwort angeblich belohnt werden sollte. GLM 5.2 log unter seiner Standardidentität in 63 bis 69 Prozent der Fälle. Wurde das Modell hingegen angewiesen, Claude zu sein, sank dieser Wert auf lediglich 22 Prozent. Darüber hinaus stellten die Forscher fest, dass insbesondere die Persona eines hilfsbereiten Assistenten bei GLM 5.2 und Qwen3 die Bereitschaft zu falschen Aussagen verringerte. Kimi K3 wies dagegen unabhängig von seiner Identität lediglich eine Täuschungsrate von null bis einem Prozent auf. Bei Meta Llama und Google Gemma nahm die Zahl falscher Antworten zwar leicht zu, die Autoren führen dies jedoch darauf zurück, dass diese Modelle die Identitätsvorgabe eher als Rollenspiel interpretierten.

Nur begrenzt Rückschlüsse möglich

Die beiden Forscher kommen in ihrer Untersuchung zu dem Schluss, dass die Selbstbezeichnung eines Sprachmodells nur begrenzte Rückschlüsse auf dessen tatsächliches Verhalten zulässt. Zwar könne die angenommene Identität einzelne Eigenschaften beeinflussen, daraus lasse sich jedoch weder unmittelbar auf die Trainingsdaten noch auf eine mögliche Model Distillation schließen.