chatgpt schickt mir fremde Bilder?

[eumel42]

Über die Feiertage ein bisschen mit chatgpt rumgespielt.
Optimierung alter Bilder. Vermutlich gibts da deutlich bessere Software, aber ich habe mich bisher kaum damit befasst.

chatgpt - altes Foto hochgeladen. "Optimiere das Foto".
Ergebnis faszinierend und gut brauchbar. Sicher nicht perfekt, aber um Welten besser, als das, was ich vor >10 Jahren mit Photoshop aus alten Bildern und Dias rausbekommen habe.

Also gleich das nächstes: Bild mit Person an einem Mischpult, abfotografiert aus einem Fotoalbum - "Optimiere das Foto".
Ergebnis: Ein Foto von einer Messe mit einem Porsche 911 im Vordergrund, dahinter Personen.
Sieh aus, als wäre es KEIN KI-Erzeugnis, sondern ein echtes Foto, evtl. optimiert.

D.h. chatGPT schickt mir offensichtlich fremde Fotos aus dem Internet?
Klar ein 911er ist besser, als so ein langweiliges Foto, aber das war jetzt unerwartet.

Die Rechtecke habe ich eingebaut, auf dem Original sind deutlich Gesichter zu erkennen.
Hoffe, das ist so genug verfremdet, um keine Rechte irgendwelcher Art zu verletzen.
Durch die Kästchen ist das ja sicher nicht mehr irgendwie verwertbar, sonst bitte löschen.

Kommt das öfter vor?

 

[KenshiHH]

Naja nun hast herausgefunden warum "KI" eher müll ist.

Davon mal ab, dir ist schon bekannt dass du mit dem hochladen der fotos direkt private fotos zum trainieren derer ki hochlädst?

 

[eumel42]

"Müll" naja, irgendeinen Nutzen muss es ja geben und ich wollte es eben mal ausprobieren.
Der Output hat mit dem Input nicht nur nichts zu tun, sondern ist offensichtlich ein Bild von irgendjemand anderem?

Trainieren der KI ist aber schon was anderes, als Weiterverteilen der Bilder an Dritte?

KI: OK, Dein Bild ist sch**sse, hier hast Du ein cooleres mit einem Porsche.

 

[KenshiHH]

die "ki" ist bekannt für halluzinationen, daher wundert es mich halt nicht.

versuch dir mal testweise das identische bild ausgeben zu lassen welches du eingefügt hast, hat wenig mit dem original zu tun.


den " irgendeinen nutzen" wird versucht die leuten einzureden, der wirkliche nutzen ist doch eher enorm gering

 

[tomgit]

"Müll" naja, irgendeinen Nutzen muss es ja geben

Klar, Verteuerung von Hardware, Monopolisierung von Rechenleistung, und durch den scheinbar ewig währenden Hype von KI die Aufweichung von Datenschutzgesetzen zu fordern, damit noch mehr Daten von Nutzenden gesammelt und zentralisiert werden können, während Propagandisten und Agent Provokateur den Slop nutzen können um Desinformationen auf billigste Art in praktisch endloser Quantität weiterverbreiten zu können, während Nutzende nachweisliche Einschränkungen von kognitiven Fähigkeiten aufweisen (übrigens von Microsoft selbst in einer Studie dargelegt: https://www.microsoft.com/en-us/res...5/01/lee_2025_ai_critical_thinking_survey.pdf )

I hope that helps!

Achja, und dass ChatGPT gerne mal den Inhalt von anderen Nutzenden darlegt: Kann sein, dass dein Prompt die Ausgabe von Trainingsdaten getriggert hat (ist teilweise einfacher, als man denkt).

 

[eumel42]

OK, das erste Foto war von meinen Urgroßeltern, ein Schwarzweissfoto aus <1930.
Ergebnis war ein Farbfoto, als ob es erst vor kurzem aufgenommen wurde (beim Prompt noch die Einfärbung angefordert).

Gibt es irgendeine Software, die das lokal in einer vergleichbaren Qualität hinbekommt?
Also Foto-Optimierung, nicht Foto-Austausch.


Immerhin was gelernt, danke!

 

[Craig1992]

Lade mal das Porsche Bild bei der Google Bilder suche hoch. Für mich sieht das sehr nach KI generiert aus.
Wenn du Bilder bearbeiten willst mit KI sind spezialisierte KIs besser als allgemeine KIs wie Chat GPT. Photoshop und andere Bildbearbeitungsprohramme haben ja entsprechende KI Bildverbesserungen enthalten. Kenne mich damit nicht aus und kann daher keine konkreten Vorschläge geben.

 

[Micha-]

Naja nun hast herausgefunden warum "KI" eher müll ist.

Nein, hat er nicht. Und das war btw auch nicht das Thema des TO

 

[Goldsmith]

Ich nutze die KI ebenfalls, um meine alten Bilder zu verbessern, bei einer reinen Eingabe bitte bessere mir das Bild auf, kommt es dazu, dass die Inhalte der Bilder dann deutlich verändert werden.


Wenn ich eingebe, bitte bessere mir dieses Bild auf, ohne es inhaltlich zu verändern, kommt das so gut wie nicht mehr vor.

Siehe hier, das Original in schwarz weiß und das kolorierte der KI

 

[tomgit]

Und wenn man es sich anschaut, sieht man trotzdem deutlich, wie sehr KI Hallus reingepackt hat. Allein die Textur der Häuserwände ist teilweise deutlich anders und der Garten am rechten Bildrand wurde umgestaltet. Von Fenstern und Details aus der Distanz abgesehen

 

[dogecoin]

Es ist wahrscheinlicher, dass du auch KI-generierte Bilder zurück bekommst. Du hast sehr viel zensiert, so dass es schwer zu sagen ist, ob es KI-generiert ist oder echt. Aber selbst ohne Zensur ist es heutzutage (fast) unmöglich es klar zu festzustellen. Ein Ansatz wäre es die Markennamen im Hintergrund zu recherchieren und rauszufinden, ob sie wirklich existieren. Jemand, der sich mit Porsches auskennt, könnte dir sagen ob das Auto korrekt wiedergegeben wird, z.B. ob die gelben Reflektoren auch in der Realität so aussehen.

Es kann natürlich auch ein Fehler in ChatGPT sein. Wir werden hier nur spekulieren können. Du könntest es an OpenAI melden, aber die werden es selbst im Fehlerfall vermutlich nicht zugeben. Wenn du in den nächsten Tagen/Wochen Presseartikel oder Blogs dazu siehst, weisst du, dass es ein Bug war. 🤷‍♂️

 

[Goldsmith]

@tomgit,

das ist so, dem widerspreche ich nicht, das wird dir aber immer passieren, wenn du ein altes Bild, auch mit einer Software aufbesserst.

Will man das nicht haben, muss man eventuell selbst mit einem Grafikprogramm daran arbeiten.

 

[oicfar]

Und wenn man es sich anschaut, sieht man trotzdem deutlich, wie sehr KI Hallus reingepackt hat.

Ich gehe davon aus, dass mind. 80% sich solche Bilder auf dem Smartphone schnell anschauen und nicht reinzoomen, wenn's möglich ist und sind dann meinst mir dem was sie sehen, zufrieden.

 

[madmax2010]

Trainieren der KI ist aber schon was anderes, als Weiterverteilen der Bilder an Dritte?

Die Grenze ist schwierig zu ziehen..

Du gibst Rechte an Materialien ab, die du bei openai Google, Instagram und Co hoch lädst

 

[dogecoin]

@Goldsmith, das wird nicht immer passieren. In den letzten Jahren wurden generative Bild-KIs immer besser und besser. Irgenwann können sie mit hoher Wahrscheinlichkeit auch kleinste Details beachten und nicht schlechter verbessern als es Menschen machen können.

Ich kann bei Leuten wie @KenshiHH nur noch cringen. Das ist die Kategorie von Leuten, die dachten, dass ein Pferd ausreicht und man kein Auto braucht oder dass Briefpost ausreicht und man kein Internet braucht. Ich weiß nicht in welcher Welt die leben, dass sie noch nicht gemerkt haben was für Krasse Dinge KI* machen kann, die vor 10 Jahren als nur von Menschen machbar galten. Alle 6 Monate wird die Grenze weiter verschoben und diese Leute hängen sich an Details auf, die 6-18 Monaten später wieder gelöst sind.

*KI: Heutzutage wird alles mit "KI" bezeichnet. Eigentlich ist es in diesem Fall maschinelles Lernen, aber auf die Begriffsunterscheidung achtet außer in der Wissenschaft heutzutage (leider) niemand mehr. Und Sprache verändert sich auch.

 

[LiniXXus]

chatgpt meinte letztens, dass ein Intel I7 9700 keine Grafikeinheit hätte.

 

[Goldsmith]

@dogecoin

dem ist ganz sicher so, ich sammle seit sehr vielen Jahren alte Bilder meiner Heimatstadt und nutze die KI immer mal wieder, die ersten Ergebnisse waren doch recht bescheiden, jedoch ist das mittlerweile erheblich besser geworden.

 

[Micha-]

chatgpt meinte letztens, dass ein Intel I7 9700 keine Grafikeinheit hätte.

Wow.

 

[Precide]

Hoffe, das ist so genug verfremdet, um keine Rechte irgendwelcher Art zu verletzen.

Sorry aber ich musste da echt laut lachen.
Mein alter Herr wurde letztens auch von einem Veo3 Video so verarscht, dass er dachte, er hätte versehentlich Zugriff auf das Smartphones seines Arbeitskollegen und hat sich bei diesem dann entschuldigt.

 

[eumel42]

nun, das waren jetzt einige Antworten, von denen die meisten von einer KI zu stammen scheinen:
Ziemlich am Thema vorbei.
Insofern ist KI schon relativ nah am Menschen.

Das Problem war einfach:
ich lade Bild 1 hoch. KI soll optimieren.
KI schickt nicht das optimierte Foto, auch nicht mit irgendwelchen KI-Fehlern, über die sich manche gerne lustig machen, sondern ein komplett anderes Foto, nämlich Bild 2.

Die Frage war einfach: kommt das öfter vor.

Btw.: Die Google-Bildersuche findet das Foto nicht, erklört mir aber, um was für ein Fahrzeug es sich handelt. Ausserdem gibt es einen KI-generierten Text, insofern hat Google das Foto jetzt auch zu Trainingszwecken integriert - sind halt alles Borg :-)