Ich halte das Konzept von SynthID als Instrument zur KI-Erkennung für eher schädlich als hilfreich, weil es falsche Erwartungen weckt und eine Sicherheit suggeriert, die es nicht bieten kann.
Ein negatives Ergebnis bedeutet schließlich nicht, dass ein Bild nicht KI-generiert ist, sondern lediglich, dass kein entsprechendes Wasserzeichen gefunden wurde. Das Verfahren ist damit von der Mitwirkung der jeweiligen Modellanbieter abhängig. Gerade bei lokal betriebenen Open-Weight-Modellen ist das ein grundlegendes Problem.
Ich halte Ansätze wie z.B.
Hive Detect deshalb für wesentlich sinnvoller. Hier wird versucht, KI-generierte Inhalte unabhängig von ihrer Herkunft oder einer freiwilligen Kennzeichnung zu erkennen.
Ein konkretes Beispiel habe ich angehängt: Das Bild wurde von mir lokal mit Qwen Image 2.1 in ComfyUI generiert. SynthID erkennt erwartungsgemäß nichts. Hive stuft dasselbe Bild dagegen mit 99,9 % als KI-generiert ein.
Interessanterweise liegt Hive bei der Zuordnung des Generators völlig daneben und vermutet GPT Image. Das zeigt natürlich auch die Grenzen solcher Verfahren. Aber die entscheidende Frage, ob das Bild KI-generiert ist, wird zumindest richtig beantwortet.
Natürlich ist auch eine solche Erkennung niemals hundertprozentig zuverlässig. Trotzdem halte ich es für den grundsätzlich sinnvolleren Ansatz, die tatsächlichen Bildinhalte zu analysieren, statt lediglich nach einer Kennzeichnung zu suchen, die ein Generator freiwillig hinterlassen haben muss.
Als ergänzender Herkunftsnachweis hat SynthID durchaus seine Berechtigung. Als allgemeines Instrument zur Unterscheidung zwischen echten und KI-generierten Inhalten halte ich es dagegen für ungeeignet.