News KI-Kennzeichnungspflicht: Was Nutzer von den KI-Labels erwarten können

[Ozmog]

Wenn ich hier schon was von Verantwortung lese. Als ob Bullshit im Internet dadurch verhindert wird, wenn ein KI-Lable dran ist. Wenn ich mir so anschauen, was in der Esoterik-/Homöopathie-Bubble für ein Unsinn behauptet, so abwegig sind sogar KI-Halluzinationen kaum.

Natürlich wäre es nicht ganz Verkehrt, wenn klar gekennzeichnet werden muss, ob es KI-Generiert wurde. Allerdings lässt sich sowas mit Leichtigkeit auch umgehen. Bilder mit Wasserzeichen durch das Bild wäre ein No-Go, in Metadaten aber mehr als OK. Aber auch hier, es lässt sich mit Leichtigkeit umgehen.

Ich experimentiere selbst mit KI-Bildgenerierung und würde bei einer möglichen Veröffentlichung transparent Kennzeichnen, wie KI verwendet wurde. Aber dann gibt es wie überall die schwarzen Schafe, die sich nicht an Regeln halten. Und dadurch wird das Bild zu Veröffentlichungen verzerrt, der eine nutzt umgänglich KI, kontrolliert aber die Ergebnisse und es ist dann ein KI-Lable vorhanden, oder jemand posaunt einfach ein KI-Ergebnis ohne Kontrolle raus, aber kennzeichnet es nicht wie vorgesehen. Ist dann letzteres ein vertrauenswürdigeres Ergebnis?

KI wird unsere Gesellschaft eh noch auf harte Proben stellen. Fake-News sind noch viel einfacher herzustellen als vorher schon. Zu viele Menschen nehmen Behauptungen zu gerne ungeprüft hin, wenn es ihnen ein Teil der Bestätigung gibt. Daher funktioniert Populismus auch so gut, vor allem von Rechts.

 

[BOBderBAGGER]

du lässt noch 2 andere kis die redaktionelle kontrolle machen und dann geht der prakti rüber und sagt nach einfachem googlen "joo passt"

Kost ja auch alles nix, das ist doch das Problem wenn es denn auch wirklich 100% stimmen muss. Bei dem Aufwand und Kosten für KI Nutzung kann man es auch gleich von Hand machen.

Mir geht das hier auch nicht weit genug Garde diese "redaktionell geprüft" ist ein Schlupfloch so groß wie ein Scheunentor.

 

[aid0nex]

Die Ausnahmen sind mir zu weitreichend. Es herrscht keine Kennzeichnungspflicht, wenn der Text zu 100% KI generiert aber das Ergebnis anschließend "redaktionell überprüft" wurde? 🤔 Die Idee ist gut, aber ich finde es sollte so sein: KI verwendet = Kennzeichnung! Sonst finden die Leute wieder zu viele Lücken und am Ende wird gar nix markiert. Außerdem muss es bei fehlenden Markierungen saftige Strafen geben!

 

[banditone]

Solange die Medienkompetenz mancher Erdenbewohner – vor allem der männlichen Fraktion – ungefähr auf Höhe des Nullmeridians dümpelt, bringt auch die beste KI-Kennzeichnung wenig bis gar nichts.

Erst kürzlich wieder ein offensichtlich KI-generiertes Video gesehen: Eine Blondine zieht sich einen imaginären Slip herunter, dazu der provokante Satz: „Traut sich wohl keiner, seine Telefonnummer in die Kommentare zu schreiben.“

Schnitt.

Darunter reihenweise Kommentare von Männern – inklusive ihrer Mobilfunknummern.

Aber klar, das eigentliche Problem ist natürlich die fehlende Kennzeichnung.

Du solltest an deiner Medienkompetenz arbeiten, die meisten Antworten bei sowas sind keine dummen Männer, sondern KI Antworten die Reichweite generieren, auf die du reingefallen bist.


Bzw. welche KI nimmst du eigentlich für deine Texte hier im Forum?

 

[Ranock321]

Was Nutzer von den KI-Labels erwarten können

Garnichts sollte man erwarten, da es schlicht nicht kontrollierbar ist.

Wo ist die Meldestelle, welche Gerichte sollen (lahmgelegt werden) sich bei nicht Einhaltung damit befassen etc.?
In der Zeit wo ich das hier schreibe, sind mehrere AI Videos, Bilder, Text etc. ohne Kennzeichnung Online gegangen und das Internet wird weiter damit geflutet.

 

[Ultra_Force]

In Deutschland wird es bestimmt bald eine KI Steuer geben, wenn man KI nutzt und/oder Inhalte generiert. Das Geld kann sich der Staat doch nicht entgehen lassen..

Spass, finde es gut wenn es mal klar gekennzeichnet wird, vorallem auf YouTube ist es echt nervig, wenn man was spannendes findet und es dann einfach mit KI generiert wurde und gesprochen wird..

 

[Schokolade]

Wäre ja super, wenn z.B. Spotify das dann auch mal Kennzeichnet. Playlisten wie der Weekly sind mittlerweile nahezu unbrauchbar da 50% KI Slop ist. Wobei mir die Kennzeichnung dahingehend egal wäre, lieber eine Einstellung die den ganzen Mist sofort rausfiltert. Sehe aber am Ende nicht wie man sicherstellen will, dass entsprechender Inhalt markiert wird.

 

[therealcola]

Also wenn ich hier im Forum ki bilder als profil picture sehe die nicht gekennzeichnet sind dann gibts ärger von mir höchst persönlich.

Anzeige ist raus.

 

[BFF]

vorallem auf YouTube ist es echt nervig

YT hat eigentlich eine freiwillige Einstellung (m.E. mehr für Deepfake ausgelegt) welche das Produkt als AI/KI markiert. Nur interessiert es viele nicht oder der Bot versteht es nicht. Zusätzlich dazu kommt, dass Du z.B. bei DistroKid Dein AI Produkt als solches angibst und es später nicht als Solches bei YT Music oder TT aufschlägt zur Monetarisierung.

Das was dieser ACT da angibt zur Kennzeichnung ist völliger WischWasch. Halte ich mich an den ACT, brauche ich meine AI Creationen nicht als solche markieren, weil ich Texte immer redaktionell bearbeite bevor sie nach Suno gehen und das Produkt von Suno auch noch anpasse. 🤷‍♂️

Garnichts sollte man erwarten, da es schlicht nicht kontrollierbar ist.

Wo ist die Meldestelle

Exakt.
Plus wer kontrolliert oder meldet Ersteller ausserhalb der Reichweite des ACT?

Ergänzung (30. Juli 2026)

Wobei mir die Kennzeichnung dahingehend egal wäre, lieber eine Einstellung die den ganzen Mist sofort rausfiltert

Dazu müssten die Quellen seitens der Distributoren gekennzeichnet bleiben bzw. Spotify müsste per KI die eingehenden Titel selbst prüfen.

Oder garnicht annehmen so wie Deezer.

Aber das schadet dem Umsatz mittlerweile zu sehr vermutlich.

 

[FrAGgi]

KI verwendet = Kennzeichnung!

Ist das für dich wirklichs so relevant?

Wenn der Text inhaltlich korrekt ist, warum spielt es da eine Rolle ob er von einer KI geschrieben wurde oder vollständig von einem Menschen?

Mir kommt es da eher drauf an, wo, also auf welcher Quelle, dieser Text veröffentlicht wurde. Traue ich der Quelle selbst, traue ich ihr auch zu, dass sie den Text geprüft hat - ob vom Menschen oder von einer KI geschrieben.

Bei einem Projekt von uns lassen wir mittlerweile fast alle Texte von der KI schreiben, basierend auf zahlreichen zur Verfügung gestellten Materialien, bevorzugten Quellen und Styleguides. Am Ende guckt bei uns immer mindestens eine Person drüber, bei anspruchsvolleren Texten sogar zwei um die letzten Fehler zu beheben.

Wir nutzen das aber nicht, um unzählige inhaltslose Bieträge zu verfassen. Die Anzahl der Beiträge selbst hat gar nicht viel mehr zugenommen. Dafür können wir aber auch einfacher ältere Beiträge aktualisieren und halten unsere Webseite damit auch aktueller als sie es vorher war.

Damit liefern wir weiterhin hochwertige Inhalte, brauchen dafür aber weniger Zeit und können uns dann zusätzlich um andere Dinge kümmern. Bei einem kleinen Team ist das ein Gamechanger. Die Zufriedenheit der Besucher hat dadurch ebenfalls zugenommen (gemessen anhand der Reaktionen und Kommentare).

 

[Schokolade]

Aber das schadet dem Umsatz mittlerweile zu sehr vermutlich.

Vermutlich. Da gab/gibt es doch diesen Kaninchenbau, wie Spotify mutmaßlich solchen Inhalt bewusst nach vorne bringt, damit sie am Ende raus weniger Ausgaben an richtige Künstler zahlen müssen oder so. Wundern würde es mich nicht, wird aber soweit ich weiß bisher von Spotify verneint.

Muss aber sagen, dass mich das echt Paranoid macht mittlerweile. Manche der KI Sachen sind ja erstaunlich gut und ich habe auch schon Phänomene gesehen, wo ganze Künstler-Profilseiten auf den sozialen Medien mit KI generierten Personen, Photos, sogar Musik Videos generiert wurden, die alle Glaubhaft machen sollen, hier Stünde eine echte Band vor einem (Inklusive Merch-Store, Autogrammkarten usw.). Wenn man dann akribisch durchgeht, findet man noch kleine Auffälligkeiten, aber es wird immer mehr und die Generatoren ja auch immer besser.

Tut mir sehr leid für echte Künstler und Kreative, ich sehe aber auch nicht wie sich das noch aufhalten lässt. Gerade in den letzten Monaten habe ich einen rasanten Anstieg an Slop-Content vernommen der immer wieder ungefragt reingespühlt wird. Das scheint wirklich die reinste Massenproduktion zu sein mittlerweile und absehbar wird es eigentlich eher schlimmer als besser.

 

[Hatsune_Miku]

Ich erwarte garnichts davon, ich mache um diesen sch... soweit es geht einen riesenbogen. Das problem was ich sehe, das dieser quatsch immer besser wird und man echt aufpassen muss der KI nicht auf dem Leim zu gehen was die inhalte angeht.

 

[aid0nex]

Ist das für dich wirklichs so relevant?

Ja.

Wenn der Text inhaltlich korrekt ist, warum spielt es da eine Rolle ob er von einer KI geschrieben wurde oder vollständig von einem Menschen?

Weil KI unfassbar gut darin ist, kompletten Quatsch gut und sinnvoll klingen zu lassen.
Wenn ich Texte über Dinge lese von denen ich keine Ahnung hab muss ich mich darauf verlassen können, dass das auch ein Mensch geschrieben hat der Ahnung hat.

Ergänzung (30. Juli 2026)

Mir kommt es da eher drauf an, wo, also auf welcher Quelle, dieser Text veröffentlicht wurde. Traue ich der Quelle selbst, traue ich ihr auch zu, dass sie den Text geprüft hat - ob vom Menschen oder von einer KI geschrieben.

Da stimme ich tatsächlich zu.

 

[Kuristina]

lieber eine Einstellung die den ganzen Mist sofort rausfiltert.

Das würde ich mir auch wünschen. Bin auch deshalb von Spotify zu Deezer gewechselt, bzw würde nicht mehr zurück. Man kommt ja sonst aus dem Skippen nicht mehr raus.

Ich würde mich nicht wundern, wenn Spotify inzwischen selber hinter vielen Interpreternamen vom KI Musik steckt. Spart man sich die Auszahlung komplett. ^^

 

[therealcola]

Weil KI unfassbar gut darin ist, kompletten Quatsch gut und sinnvoll klingen zu lassen.
Wenn ich Texte über Dinge lese von denen ich keine Ahnung hab muss ich mich darauf verlassen können, dass das auch ein Mensch geschrieben hat der Ahnung hat.

Denke nicht, denn es dauert nich mehr lange dann hat die Maschine mehr Ahnung als ein Mensch egal welchem Experten Gebiet er tätig ist. Kann dementsprechend auch bessere Text verfassen und mehr Ahnung haben von dem was er schreibt als ein geprüfter experte jemals haben könnte...

Ja vertrauen ist wichtig das ganze menschliche System beruht auf vertrauen, die zahlungen, die einhaltung von regeln, dies das


Deshalb ist es ja so schwer mit AI. Letzendlich wird sich das so entwickeln das man ai mehr vertrauen schenkt, der maschine als einen experten menschen, weil die maschine ja niemals fehler macht.


Die Schrift ist ja letztendlich nur Mathematik genau wie Sprache. Und wo sind die KI Systeme mit ihren trillionen operationen pro sekunde berechnung oder noch 1000 mal mehr? ja Mathe. Also auch Texte, alles digitale...

alles wo 1 und 0 vorkommt ist ne Maschine besser

 

[FrAGgi]

Wenn ich Texte über Dinge lese von denen ich keine Ahnung hab muss ich mich darauf verlassen können, dass das auch ein Mensch geschrieben hat der Ahnung hat.

Wenn ein Mensch das geprüft hat der für eine von der als vertraunswürdig eingestuften Quelle arbeitet, sollte das doch den gleichen Effekt haben.
Wenn man den Leuten der Quelle nicht zutraut den KI Text zu prüfen, sollte man ihnen auch nicht zutrauen, dass sie selbstgeschriebene Texte auf ihre Korrektheit prüfen.

 

[BFF]

ganze Künstler-Profilseiten auf den sozialen Medien mit KI generierten Personen, Photos, sogar Musik Videos generiert wurden, die alle Glaubhaft machen sollen, hier Stünde eine echte Band vor einem.

Das ist das was mich auch stört. Das glaubhaft machen wollen. Und derart Produkt sollte gekennzeichnet sein.

Das AI mittlerweile besser singen kann als manch “Künstler” ist halt so. Stört bei einem Eigenprodukt mit eigenem Text rein garnicht. Versuche ich ein Original zu kopieren/faken wird ein anderer Schuh draus.

Am Ende steht die Frage nach der Kontrolle. Die Masse der “Durchwischer” am Schirm wischt so oder so. Oder findet AI super cool wie z.B dieses Digidi und dessen Klone zur Zeit.

 

[Schokolade]

Ich würde mich nicht wundern, wenn Spotify inzwischen selber hinter vielen Interpreternamen vom KI Musik steckt. Spart man sich die Auszahlung komplett. ^^

Ja, ziemlich sicher. Es gab ja vor der KI Flut bereits einige Anschuldigungen gegenüber Spotify, dass sie Firmen bezahlt haben Lieder zu kreiieren, mit gefälschten Künstlernamen etc., um diese dann den Leuten unterzujubeln, eben aus dem Grund keine echten Künstler zu bezahlen - https://en.wikipedia.org/wiki/Controversy_over_fake_artists_on_Spotify

Dazu gab es ja viele ernstzunehmende Hinweise und Beweise, wurde aber immer wieder im Sand vergraben. Es liegt also nur nahe, dass sie das

A. Jetzt über den Weg generativer KI noch günstiger und in größerem Umfang machen

und

B. Genügend Privatpersonen ebenfalls ihren Generator Output direkt bei Spotify publizieren

 

[BFF]

Spart man sich die Auszahlung komplett.

Spotify spart da nicht wirklich.
Es wird monetarisiert.

Aber mit deezer bist Du richtig. Die nehmen konsequent reine AI Produkte nicht in den Index auf.

Ergänzung (30. Juli 2026)

Genügend Privatpersonen ebenfalls ihren Generator Output direkt bei Spotify publizieren

Probier mal.

Du brauchst einen Distributor wie DistroKid, TuneCore etc. Und diese verdienen an den AI Produkten mit.

 

[Muntermacher]

Ich hätte es anders aufgezogen:
KI frei Kennzeichnung für die Dinge, bei denen keine KI verwendet wurde.
So sehe ich, daß es bei bei Made in Germany Zeichdn wurde und damit genau das Gegenteil erreicht wurde von dem, was die Briten erreichen wollten.

Ergänzung (30. Juli 2026)

Solange die Medienkompetenz mancher Erdenbewohner – vor allem der männlichen Fraktion – ungefähr auf Höhe des Nullmeridians dümpelt, bringt auch die beste KI-Kennzeichnung wenig bis gar nichts.

Erst kürzlich wieder ein offensichtlich KI-generiertes Video gesehen: Eine Blondine zieht sich einen imaginären Slip herunter, dazu der provokante Satz: „Traut sich wohl keiner, seine Telefonnummer in die Kommentare zu schreiben.“

Schnitt.

Darunter reihenweise Kommentare von Männern – inklusive ihrer Mobilfunknummern.

Aber klar, das eigentliche Problem ist natürlich die fehlende Kennzeichnung.

Warum läßt man eigentlich so einen sexistischen Kommentar stehen? Ist männerfeindlich ok?
Vor allem entbehrt er völliger Logik. Warum sollten Frauen bei einer nackten Frau reagieren (sofern nicht lesbisch?).
So oder so, Menschen aufgrund ihres Geschlechts zu diskriminieren verstößt gegen das GG. Leider darf man aber Männer pauschal als dumm und toxisxh bezeichnen ohne dafür belangt zu werden. Wir wandern von der idiotischen Unterdrückung von Fraurn und queeren Menschen direkt in die Richtung Männerunterdrückung. Fazit: nichts gelernt aus der,alten Unterdrückung.

Edit: Die Männerdiskriminierung des zitierten Posts gilt als frei Meinungsäußerung laut Moderation, traurigerweise. Man stelle sich vor, jemand hätte was ähnlich dummes über Frauen geschrieben. Da ware schnell gehandelt worden. Zurecht.
Anders gesagt, die Moderation handelt je nach Geschlecht anders. Männer dürfen zumindest pauschal als Medienidioten bezeichnet werden.