News Spanien setzt AI Act zuerst um: Hohe Strafen für nicht gekennzeichnete KI-Bilder geplant

[Nero2019]

es kommt drauf an welche Bilder. Wenn echte Personen involviert sind, dann muss es definitiv gekennzeichnet sein. Ansonsten ist die Manipulation zu hoch/gefährlich und diese Person wurde/wird sowieso zu unrecht verurteilt/dramatisiert.

Wenn aber Pikachu oder Crash Bandicot neue Bilder braucht, dann ist eine Kennzeichnung mMn nicht nötig.

 

[coxon]

Wenn aber Pikachu oder Crash Bandicot neue Bilder braucht, dann ist eine Kennzeichnung mMn nicht nötig.

Versuche das mal bei ChatGPT. Bekommst als Antwort, dass beide Figuren dem Copyright unterliegen.

 

[Ko3nich]

Da freuen sich bestimmt etliche Richter, bestimmen zu dürfen, was unterschwellig ist und was nicht und was bewusst wahrgenommen wird und was nicht.

Diese Einstellung alles bis zur letzten Eventualität regeln zu müssen ist der Grund warum wir in einer Bürokratie-Hölle gefangen sind.

Ich erwarte von einem hochbezahlten und lange ausgebildeten Richter welche in ihrem Studiengang in der Regel zu den Jahrgangsbesten gehörten, dass diese Entscheidungen von Fall zu Fall ohne ein vollständiges Entscheidungsdiagramm treffen können.

 

[nciht]

@Ko3nich Das reißt du jetzt aber schon bisschen hart aus dem Kontext meines Gesamtbeitrages und dichtest noch irgendwas zwischen die Zeilen ... Was hat jetzt Manipulation z.B. von Suchtkranken mit KI-Bildern zu tun bzw. was haben diese "Eventualitäten" in dem Gesetzes-Entwurf überhaupt zu suchen?

Wir werden es denke ich sehen sobald das Gesetzt greift, denn bei so einer äußerst merkwürdig hergestellten Verbindung zwischen KI und Manipulation, würde es mich nicht wundern, wenn die federführenden Politiker schon irgendwen im Kopf hatten der "unterschwellig manipuliert, ohne dass seine Opfer das bewusst wahrnehmen".

 

[quakegott]

Mir wäre es ganz recht wenn ausnahmslos jeder KI-Inhalt gekennzeichnet wird... Dann kann von mir aus auch die Abmahnwelle rollen! Was damit aktuell schon für ein Unfug getrieben wird ist ja geisteskrank... Das muss dringend reguliert werden bevor es durch KI-Propaganda noch zu Konsequenzen kommt die nicht mehr nur im Internet zu spüren sind

 

[sikarr]

Meiner Meinung geißeln wir uns mit den ganzen Verboten nur selbst. KI kommt bzw. ist schon da, es wird Einzug halten wie alles andere auch. Das Fälschen von Bildern die unter Urheberecht stehen ist ja eh schon verboten und wenn jemand mit manipulierten Bilder Falschinformation betreibt ist das ja auch schon verboten, wenn jemand sein Fakebild sieht dann kann er ja dagegen auch vorgehen.
Im grunde haben wir heute schon alles man braucht um sich Recht zu verschaffen und der Markt wird sich am Ende selbst regeln aber alles zu verbieten und auf Unternehmen abzuwelzen bringt uns auch nicht vorran.

 

[Rollensatz]

Ich mache mir keine Sorgen, dass Firmen KI Bilder/Vids "vergessen" zu kennzeichnen. Ich glaube das es auch nicht sonderlich von belang ist.

Das sich gefühlt 80% der Menschheit in asozialen Medien ala X und den ganzen zugeschiss... Müll rumtummeln und sich jeder Hinz und Kunz per KI eben alles konturieren kann, und diesen "Erguss" dann dort reinstellen und dann diese 80% den Schutt glauben. Das ist doch die Gefahr.

Mit diesen "Medien" kann man ganze Systeme stürzen und passendes installieren und die meisten machen sich da gar keinen Kopp drum...die Welt wird immer kleiner und ärmer - zumindest im Kopp...

 

[Botcruscher]

Mal sehen. Die Intention ist also vor (täuschend) echten KI Bildern zu schützen die für echt gehalten werden (könnten). Wie soll nach der Logik ein Dritter die Bilder prüfen?

Das ist schlicht mal wieder Bullshit.

 

[Chismon]

Da gehts sicherlich nicht spezifisch um "Papst der mit ner G Klasse vor der Shischabar steht".

Nicht nur, aber ich denke "Deep Fakes" werden da als größtes Problem angesehen, eher noch als "ungekennzeichnete Urheberverletzung" bzw. "ungekennzeichneter Diebstahl geistigen Eigentums", als das es im Anwaltsprech evt. wohl durchgehen könnte.

In Deutschland mag das noch kein Problem sein, aber wenn so eine Regierung wie in den USA hier oder anderweitig in Europa an die Macht käme und eine Tech-Oligarchie oder ähnliches errichten wollen würde, könnte gezielte Bildmanipulation schon problematisch werden, nicht nur im Vorfeld von Wahlen.

Zudem sehe ich nicht, dass es unzumutbar oder problematisch wäre für Ersteller KI-generierter Bilder, diese als solche (via Software-Option oder anderweitig) zu kennzeichnen, denn die Freiheit solche zu erstellen wird ja dadurch nicht per se beschnitten sondern nur damit bewusst zu täuschen.

 

[sikarr]

Wie soll nach der Logik ein Dritter die Bilder prüfen?

Das ist schlicht mal wieder Bullshit.

Deswegen sollst du es ja markieren, das ist der Plot an der Geschichte. Die Arbeitslast die durch die Markierung und Überprüfung entsteht wird mal wieder auf die Mittelschicht abgewälst.

 

[NoNameNoHonor]

@mischaef
Danke für das sehr hübsche - NICHT langweilig KI-Generierte - Titelbild.

Ich bin zwiegespalten. Einerseits sehe ich es genauso wie sikarr, wo ist der unterschied zu Bildern die mit Photoshop bearbeitet wurden?
Andererseits kann ich auch verstehen, dass es halt jetzt wesentlich einfacher ist Bilder zu erstellen, man muss nicht mehr mit Photoshop umgehen können und das erhöht natürlich das aufkommen an Fakefotos und mittlerweile auch Videos massiv.
Also man muss schon was machen. Allerdings, diejenigen die täuschen wollen werden sich nicht von einer Wasserzeichenpflicht abhalten lassen.

Vielleicht werden diejenigen, die täuschen wollen - wie die AfD z.B. - doch davon abgehalten...

 

[Firefly2023]

Gut so...

 

[lex30]

@Rollensatz
kannste ein paar Beispiele nennen? Wo da ganze Systeme gestürzt wurden? Das mein ich jetzt net bös, mir fällt halt selber dazu kein Beispiel ein. Ich glaube auch nicht, das sowas so einfach möglich ist.
Geb dir aber Recht, das da echt viel Müll produziert wird. Allerdings muss man den Leuten nun auch mal zugestehen und in die Pflicht nehmen, nicht jeden Müll zu glauben.
Das Gegenbeispiel sind in meinen Augen dann aber auch sowas wie "Demos gegen Rechts", wo es ja auch mittlerweile so aussieht, das die eher von Staatsnahen NGO´s (was ja vom Namen her, der absoluten Witz ist) initiiert werden um vor einer "Gefahr" zu warnen die es einfach überhaupt nicht gibt. 🤣
Also in den sozialen Medien fallen die "Rechten" auf FakeNews rein und auf der Straße die "Linken" auf den Staat der ihre Demos finanziert. 🤣

Zum Topic selber. Wird ja wieder alles schön schwammig gehalten, das man dann schön gegen "Unliebsame" vorgehen kann. 🤣

 

[Chismon]

Wie soll nach der Logik ein Dritter die Bilder prüfen?

Wenn ein angebliches Bild eines Verbrechens bspw. per K.I. erstellt wird, die beschuldigte Person aber (anhand anderer Indizien festgestellt) nachweislich woanders war. Das wäre dann vorsätzliche Täuschung und natürlich wäre hier eine saftige Strafe fällig.

Dass das teilweise schwer werden könnte - nicht etwa bei Passfotos, Geldscheinen, u.a. (die noch weitere Sicherheitsmerkmale haben) - würde nahelegen, dass man die die Machern von K.I. Generatoren dazu verpflichtet zumindest eine Kennzeichnungspflichtsoption für damit K.I.-generierter Bilder vor zu sehen (sowie einen evt. auch ins ausgebende Bildformat eingebauten Indikator) und wer das trotzdem umgeht, und damit Unfrieden stiftet und partout nicht daran halten will, und dann erwischtr wird, macht sich eben strafbar.

Mittel und Wege gäbe es da sicherlich schon (die man natürlich mit einem selbstgeschriebenen K.I.-+Generator versuchen könnte zu umgehen, aber der hat dann u.U. nicht den Datenzugriff, den man ja auch limitieren könnte) und ja, anhand eines Abgleichs mit den Originalbildmaterial wäre das sicherlich möglich (man erinnere sich bspw. an den Filmklassiker "Rising Sun" (Die Wiege der Sonne) basierend auf der gleichnamigen Michael Crichton Bestseller-Buchvorlage, in welchem das Videomaterial ja auch nachweislich editiert wurde und das sollte eigentlich auch für K.I. gewandelte Bilder möglich sein).

 

[Gravlens]

Zehn Tage vor der Bundestagswahl wurde YouTube quasi mit KI-generierten AFD-"Werbevideos" hauptsächlich aus Russland geflutet, da müsste wirklich gegen Fake-News und Verdummungs-Propaganda vorgegangen werden.^^

 

[3125b]

Und was ist in ein paar Jahren, wenn maschnell und manuell erstellte Inhalte/Bilder etc. nicht mehr zu unterscheiden sind - überall die Warnung "Seite könnte KI-generierte Inhalte enthalten"?

 

[tipmyredhat]

Na dann bin ich mal gespannt auf die "Beweisführung", was denn nun KI generiert ist und was nicht. Es gibt jede mieser Künstler, und ich verwende diesen Begriff sehr liberal, deren Ergüsse sich von KI slop nicht unterscheiden lässt.

Das sich gefühlt 80% der Menschheit in asozialen Medien ala X und den ganzen zugeschiss... Müll rumtummeln und sich jeder Hinz und Kunz per KI eben alles konturieren kann, und diesen "Erguss" dann dort reinstellen und dann diese 80% den Schutt glauben. Das ist doch die Gefahr.

Nicht zu vergessen BlueSky, wo dann der wirklich untereste Bodensatz der Menschheit unterwegs ist. Wenn es die Hölle auf Erden gibt...

 

[Krausetablette]

Wenn KI so gut wird beim Generieren von Bildern, dass selbst ein geschultes Auge keinen Unterschied mehr feststellen kann, dann frage ich mich, wer genau festlegt, was Fake ist und was nicht. Das ist quasi genauso fragwürdig wie die Idee, den sogenannten 'trusted flaggern' die Entscheidung zu überlassen, was wahr oder falsch ist. Das ist alles Zensur durch die Hintertür, und die Europäer stehen und klatschen.

 

[calippo]

hat der Figur Ohren dazu gepfriemelt

Wer nimmt sich denn heute die Zeit nachzuprüfen, ob der echte Elmo Ohren hat oder nicht? Wir leben leider in der Zeit des postfaktischen.

Klar, für gute Deepfakes benötigt man schon Know-how, aber je nach Zielsetzung reichen einigermaßen nette Bilder schon aus. Schau mal in den Discordchannel von midjourney wie dort massenhaft Bilder produziert werden mit einfachsten Prompts.
Du hast in ein paar Stunden immerhin fünf Ausführungen hinbekommen. Wie lange hätte es gedauert diese Ergebnisse zu erzielen, wenn Du das von Hand machen müsstest? Ich war noch nie gut im Zeichnen, falls ich so ein Niveau überhaupt erreichen kann, es würde viele Jahre dauern.

Wer mit der Lupe sucht oder ein geschultes Auge hat, der erkennt bei Menschen noch, ob es ein KI Bild ist oder nicht. Aber es gibt viele Menschen, die Bilder nicht so wirklich hinterfragen, die Botschaft kommt trotzdem an.

Z.B. sind die sozialen Medien voll mit KI generierten Bildern von attraktiven Damen (offensichtlich KI generiert, selbst wenn es so perfekte Menschen geben sollte, könnten sie nicht heute im Schnee posen und am nächsten Tag am Strand surfen und dann in Paris flanieren usw.)
Trotzdem bekommen diese Avatare viel männlichen Zuspruch. Ob sie es nicht erkennen, ob es ihnen egal ist, ob es ggf. selbst nur Bots sind, keine Ahnung.
Wenn man Interesse daran hat, solche liebestollen Typen zu schützen (mir wäre es egal), dann könnte eine Kennzeichnung helfen.

 

[Cool Master]

Naja, die Hürden für so etwas sind etwas größer als es vielleicht den Anschein macht.

Nicht wirklich. Es sind im Prinzip 3 Schritte:

1. Stable Diffusion und OpenWebUI installieren - ist super leicht da 10000 Tutorials vorhanden für Systeme wie macOS, Linux und Windows.
2. Auf Civitai nach einem Modell suchen was einem zusagt.
3. Promps und Einstellungen wie im Modell beschrieben nutzen.

ChatGPT mit Dall-E ist da 100 mal komplexer da es dir nicht die Möglichkeiten gibt zum Feintuning. Zumal viele Bilder werden danach noch in PS bearbeitet.