News SynthID Detector: Googles KI-Detektor ist jetzt für alle zugänglich

Cruentatus schrieb:
Mit dem Tool kann man jetzt 'verifizieren', dass etwas echt ist
Nein. Steht doch im Artikel:
Die Frage, ob es sich bei dem Medium um einen von KI generierten Inhalt handelt, kann Googles Erkennungssystem allerdings nur eingeschränkt beantworten. Schließlich wird der KI-Einsatz eben nur erkannt, wenn zuvor ein digitales Wasserzeichen, eben jene SynthID, in das Medium eingebettet wurde.
...
Wurde der Inhalt wiederum von einem KI-Tool generiert, das SynthID nicht nutzt, kann der Detektor dies logischerweise nicht erkennen.
 
  • Gefällt mir
Reaktionen: Cruentatus und MichaG
Schulkantine des Sohnes:
IMG_7206.PNG
 
  • Gefällt mir
Reaktionen: MaverickM und p4z1f1st
Eine prinzipiell gute Idee und wichtig, dass es breit verfügbar ist. Leider aber halt nutzlos, dank der im Bild notwendigerweise eingebetteten SynthID... 🤦‍♂️
 
Bitcatcher schrieb:
...mit Photoshop bearbeitet und neu gespeichert wurde und es nicht von Google AI erzeugt wurde, hat das Tool Probleme und erkennt den KI Ursprung nicht mehr. Habs gerade getestet.
Sollte im Artikel stehen. Schon schwach.
 
Ich halte das Konzept von SynthID als Instrument zur KI-Erkennung für eher schädlich als hilfreich, weil es falsche Erwartungen weckt und eine Sicherheit suggeriert, die es nicht bieten kann.

Ein negatives Ergebnis bedeutet schließlich nicht, dass ein Bild nicht KI-generiert ist, sondern lediglich, dass kein entsprechendes Wasserzeichen gefunden wurde. Das Verfahren ist damit von der Mitwirkung der jeweiligen Modellanbieter abhängig. Gerade bei lokal betriebenen Open-Weight-Modellen ist das ein grundlegendes Problem.

Ich halte Ansätze wie z.B. Hive Detect deshalb für wesentlich sinnvoller. Hier wird versucht, KI-generierte Inhalte unabhängig von ihrer Herkunft oder einer freiwilligen Kennzeichnung zu erkennen.

Ein konkretes Beispiel habe ich angehängt: Das Bild wurde von mir lokal mit Qwen Image 2.1 in ComfyUI generiert. SynthID erkennt erwartungsgemäß nichts. Hive stuft dasselbe Bild dagegen mit 99,9 % als KI-generiert ein.

Interessanterweise liegt Hive bei der Zuordnung des Generators völlig daneben und vermutet GPT Image. Das zeigt natürlich auch die Grenzen solcher Verfahren. Aber die entscheidende Frage, ob das Bild KI-generiert ist, wird zumindest richtig beantwortet.

Natürlich ist auch eine solche Erkennung niemals hundertprozentig zuverlässig. Trotzdem halte ich es für den grundsätzlich sinnvolleren Ansatz, die tatsächlichen Bildinhalte zu analysieren, statt lediglich nach einer Kennzeichnung zu suchen, die ein Generator freiwillig hinterlassen haben muss.

Als ergänzender Herkunftsnachweis hat SynthID durchaus seine Berechtigung. Als allgemeines Instrument zur Unterscheidung zwischen echten und KI-generierten Inhalten halte ich es dagegen für ungeeignet.

1791471190769.png


1791471224027.png
 
  • Gefällt mir
Reaktionen: Drakrochma

Nur Inhalte von SynthID-Partnern werden erkannt​

OK, ab dem Punkt war ich schon beim Facepalm. Das einzige was ich also tun muss als Deepfake Mastermind ist sich aus dem Ökosystem an angegliederten Partnern raushalten!?🤔
Mal abgesehen davon daß ChatGPT schon von Haus aus zu Tode kastriert sind wenn man irgendwas machen möchte was irgendwem misfallen könnte.

Dann kommt noch der Google Kontozwang wenn ich die neue Erkennung Website nutzen möchte.
OK, wenn ich also ein vermeintliches Schuddelfoto testen lassen will muß man es einem personalisierten Clouddienst in die Hand drücken!?

Ernsthaft Google, ein Detektor bei dem dem vorher das Ziel markiert sein muss!?
Hey, ich hab ne Idee für nen 100% funktionierenden Golddetektor. Man muss nur vorher....🙄
Und es kann universell für alles mögliche zum Auffinden eingesetzt werden. Gegen eine kleine Aufrüstgebühr versteht sich...im Monatsabo...!🤑
 
Zurück
Oben