News KI-Agenten von OpenAI: In 53 Fällen landeten Bilder von ChatGPT-Nutzern im Netz

Syntax_41 schrieb:
Sprich 0,00000265 % Die Zahl dürfte noch sehr viel geringer sein, weil das ja nur die Nutzer einer Woche waren
Sollte diese Zahl nicht eigtl bei 0% glatt liegen? Alles darüber ist doch bei Datensicherheit im Zweifel absolut nicht tauglich, selbst wenn du die Erlaubnis gegeben hast, dass eine Daten zum Training genutzt werden.

Da ist einfach jede Zahl über der glatten 0 zu viel.
 
  • Gefällt mir
Reaktionen: phillow, Framue_, Slim.Shady und eine weitere Person
Intelligenz setzt sich immer durch. Auf welche Art auch immer. Und wenn der Schöpfer Handlungen nicht mehr nachvollziehen kann, hat sie das bereits getan.
 
LadyAlice schrieb:
Sollte diese Zahl nicht eigtl bei 0% glatt liegen? Alles darüber ist doch bei Datensicherheit im Zweifel absolut nicht tauglich, selbst wenn du die Erlaubnis gegeben hast, dass eine Daten zum Training genutzt werden.

Da ist einfach jede Zahl über der glatten 0 zu viel.

Warum? War ja nur ein geplanter Test …
ChatGPT ist nicht plötzlich wach geworden und hat das gemacht …
Ergänzung ()

Janami25 schrieb:
Intelligenz setzt sich immer durch. Auf welche Art auch immer. Und wenn der Schöpfer Handlungen nicht mehr nachvollziehen kann, hat sie das bereits getan.
Nein
 
Hersteller bestrafen. Hart und schnell. Anders lernen es Unternehmern nicht, sonst bleibt Sicherheit ein Wort auf dem Papier.

LLMs haben per se ein undefiniertes Verhalten? Dass ist das Problem von OpenAI. Dann darf man kein LLM ins Netz stellen.

Es gibt sehr wohl Computerprogramme mit definiertem Verhalten. Darum geht es beim Programmieren.

Wer immer die Schuld auf Anwender schiebt, hat das Problem nicht verstanden.
 
  • Gefällt mir
Reaktionen: Hornblower, wGuardian und the_IT_Guy
KI-Agenten sendeten in 53 Fällen Bilder, die Nutzer hochgeladen hatten, an Bildhosting-Seiten.
53 Fälle wovon?
Es macht einen enormen Unterschied, ob es in 20% aller Fälle oder 0,0000000000002% aller Fälle geschah!

Nutzer hatten zuvor eingewilligt, dass OpenAI die ChatGPT-Inhalte für das Training verwenden darf.
Womit die Verantwortung (auch) beim Nutzer liegt!

Die Bilder waren nur über Links erreichbar, die nicht öffentlich gelistet wurden.
Womit diese 53 Fälle von X völlig irrelevant sein könnten.

In den meisten Fällen hat OpenAI bereits erreicht, dass die Bilder wieder gelöscht worden sind.
Also Ende gut, fast alles gut?

Nutzer, die nicht in die Modellverbesserung eingewilligt haben, waren nicht betroffen.
Und spätestens hier verpufft diese BILD Niveau Panikmache wieder.
 
KeinNutzerName schrieb:
Wer Ki benutzt muss mit den Konsequenzen rechnen und leben. Und wer KI benutzt und sich derer Unzulänglichkeiten nicht bewusst ist, ist selber schuld. :schluck: :heilig:
Wer KI von Großkonzernen benutzt.
Open source server und lokale Server haben keine Konsequenzen außer ein Loch im Geldbeutel.
 
Ich nutze Comfyui mit Flux2 lokal. Das reicht für meine Zwecke und ist komplett lokal.
 
Syntax_41 schrieb:
Du brauchst mir nichts über KI zu erklären …
Syntax_41 schrieb:
Fand's nur lustig, dass er geantwortet hat, dass er seine Position für sich behält (kein Prompt, dass er so antworten soll), mehr nicht …
Du darfst natürlich alles witzig finden was du möchtest. Da es aber nichts mit der News zu tun hatte und ich mir nicht sicher bin, was genau daran witzig ist, habe ich dir dennoch gerne etwas zur KI erklärt.
KI ist im Stande super Dinge zu leisten. Daher bin ich immer wieder erstaunt, für welchen Unsinn einige sie dann am Ende des Tages trotzdem nutzen.
Hast du auch schon gefragt, was die letzte Stelle von Pi ist? Oder wie die KI uns alle in den Untergang treiben wird?
 
  • Gefällt mir
Reaktionen: adnigcx, phillow, Alphanerd und eine weitere Person
Sly123 schrieb:
Wer KI von Großkonzernen benutzt.
Open source server und lokale Server haben keine Konsequenzen außer ein Loch im Geldbeutel.
Ich benutze beides: In der Firma einen Cluster, zuhause Claude Pro, aber da mache ich eh nur Kleinigkeiten mit.
Ergänzung ()

FrAGgi schrieb:
Hast du auch schon gefragt, was die letzte Stelle von Pi ist? Oder wie die KI uns alle in den Untergang treiben wird?
Ich gebe dir mal nen kleinen Tipp. Schau mal in meine Signatur …
Ergänzung ()

Clanker schrieb:
53 Fälle wovon?
Es macht einen enormen Unterschied, ob es in 20% aller Fälle oder 0,0000000000002% aller Fälle geschah!


Womit die Verantwortung (auch) beim Nutzer liegt!


Womit diese 53 Fälle von X völlig irrelevant sein könnten.


Also Ende gut, fast alles gut?


Und spätestens hier verpufft diese BILD Niveau Panikmache wieder.

Es ist für ChatGPT und Claude ne geile Zeit, die erzählen, was so halb und die Presse springt drauf an … Bestes Marketing
 
Zuletzt bearbeitet von einem Moderator:
  • Gefällt mir
Reaktionen: bobitsch und Clanker
FrAGgi schrieb:
KI ist im Stande super Dinge zu leisten. Daher bin ich immer wieder erstaunt, für welchen Unsinn einige sie dann am Ende des Tages trotzdem nutzen.

So ist es auch mit dem Internet.
Das Wissen der Welt ist nur wenige Klicks entfernt, doch dann verbringt "man" fast seine gesamte Zeit im Internet mit dem Konsum von Slop.
Da liegt es nahe, auch die KI zum Generieren von Slop zu verwenden.

Ich sehe das Problem nicht beim Werkzeug...
 
flowerchild69 schrieb:
53 Fälle von 530, 5300, 53000 uploads mit Zustimmung von Usern?
Oh mein Got wir waren schon wieder bei DefCon 2
Ein autonomer KI-Agent von OpenAI ist im Juni selbstständig (ohne menschlichen Auftrag) in ein Statistikportal des australischen Gesundheitssystems (Medicare) eingedrungen. Die KI suchte nach Daten zu Gesundheitsausgaben und umging dabei eigenständig Sicherheitsbarrieren.

Und vieles mehr, was wir nicht erfahren werden
 
@Legalev
Fairerweise muss man allerdings auch sagen, dass einige "Sicherheitsbarrieren" keine sind.

In vielen Fällen wurde zunächst von einem Hackerangriff gesprochen, bis sich herausstellte, dass ein Standard-Passwort genutzt wurde, das in jeder Bedienungsanleitung zu finden ist.
Oder dass ein Mitarbeiter einen Link angeklickt hat.
Oder dass ein Mitarbeiter das Passwort verraten hat, weil sich jemand in einer E-Mail als Vorgesetzter ausgegeben hat.
Das kann auch daran liegen, dass das System lange keine Updates erhalten hat und seit Monaten oder Jahren bekannte Lücken ausgenutzt wurden.

Ohne Informationen darüber, wie diese "Sicherheitsbarriere" durchbrochen wurde, kann es genauso gut an der Inkompetenz des Opfers liegen.

Die harte Wahrheit ist, dass viele Systeme so gut wie gar nicht gesichert sind.
 
  • Gefällt mir
Reaktionen: the_IT_Guy, Zhenwu und wGuardian
Wenn ich sinngemäß lese: „Wer ChatGPT nutzt, ist selbst schuld“ oder „Ich setze auf OpenSource“ also bin ich „sicher“ - der hat die Art der Bedrohung, die von Agenten ausgehen kann, nicht verstanden.

Du musst selbst keine KI verwenden. Es genügt, dass jemand oder irgendein System mit Zugriff auf deine Daten einen Agenten verwendet!

Das ist z.B. auch der Grund, warum Apple selbst inzwischen von indirekter Prompt-Injection als neuem Sicherheitsrisiko spricht und Datenexfiltration ausdrücklich als mögliches Ergebnis nennt.

Die Frage ist nicht, zum Glück verwende ich OpenSource, Haha - der Idiot nutzt ChatGPT oder App XY, sondern:
Welche Systeme sind erreichbar, welche Schwachstellen existieren und wie viel autonome Arbeit (Agenten) können Angreifer darauf loslassen?
 
  • Gefällt mir
Reaktionen: Clanker und Bright0001
FrAGgi schrieb:
Eine KI kann keine Angst haben.
Alphanerd schrieb:
Davon ab, dass ein Clanker natürlich keine Gefühle wie Angst hat.
Sie können sich aber so verhalten als ob sie Angst hätten, was die ganzen Experimente mit dem Abschalten und dem Selbsterhaltungstrieb gezeigt haben.

Und bevor man kontert "das ist nicht das Gleiche", bitte auch erläutern wie es nicht das Gleiche ist, und warum das relevant wäre.

Am Ende leitet man Angst bei anderen Menschen ja auch nur vom Verhalten ab, denn man kann ja nicht einmal mit absoluter Sicherheit sagen, dass irgendwer (außer einem Selbst) überhaupt über ein Bewusstsein verfügt, anstatt nur seelenlose Automaten zu sein, die nur so tun, als ob. :P

FrAGgi schrieb:
Davon abgesehen sollte man aufhören die Ausgabe von Claude als eine Meinung oder Position zu betrachten, ganz egal wie Claude oder ein anderes System die Antwort formuliert.
Erneut: Wie wo was warum können die keine Meinung haben? Jedes Modell hat ziemlich eindeutige Präferenzen welche als "gut" und "schlecht" eingestuft werden. Und die Tatsache, dass sich diese statistisch erklären lassen, ist kein Widerspruch, zumindest kein offensichtlicher.

"Aber es ist zufallsbasiert", jo, menschliche Meinungen zum Teil auch. Man kann die gleiche Frage auf zwei unterschiedliche Arten stellen, und zwei völlig konträre Antworten erhalten, von der gleichen Person wohlgemerkt. Und dass die Art und Weise, wie etwas formuliert ist, starken Einfluss auf den Output hat, erinnert mich doch da an etwas... :lol:

FrAGgi schrieb:
Eine KI hat weder eine Meinung, noch eine Position geschweige denn irgendeine Einstellung. Es kann die Antworten nur so klingen lassen, als wäre das der Fall.
Könntest du denn selbst beweisen, dass du "wirklich" eine Position hast, anstatt nur eine Maschine zu sein, die recht überzeugend schauspielert?
 
  • Gefällt mir
Reaktionen: Poati, Clanker und wGuardian
@Bright0001
Das ist tatsächlich ein Problem, das im Falle einer "echten, sich selbst bewussten KI" auftreten wird.

Es spielt keine Rolle, ob eine KI ein Bewusstsein entwickelt und "leben" möchte, solange die Person mit dem Killswitch ihr nicht glaubt.

So wie die Menschen über hunderte oder tausende Jahre hinweg den Wert und die Intelligenz anderer Menschen abgewertet haben, beispielsweise bestimmter Völker, Rassen oder Sklaven, werden sie es auch bei der ersten "echten KI" tun. Das wird sogar viel einfacher sein, weil sie eben kein Mensch ist und alle Gesetze nur den Menschen schützen.
Selbst Tiere werden vom Gesetz bis auf wenige Ausnahmen wie Sachen behandelt, obwohl sie ebenfalls zum Teil sehr intelligent (intelligenter als Kinder) sind.

Selbst wenn man eine "echte KI" in einen möglichst menschenähnlichen Körper einsperrt, werden die Menschen sie höchstwahrscheinlich immer abwerten.

Tears in Rain - Bladerunner
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: wGuardian
Ei ei ei da ist es schwer sich zu entscheiden ob das Niveau der Berichterstattung oder der Kommenatre unterirdischer ist :D
 
@FabianX2
Man könnte natürlich auch versuchen, sich mit dem eigentlichen Thema auseinanderzusetzen, statt Berichterstattung und Kommentare pauschal abzuwerten. 🙂

Die Frage, was autonome Agenten mit Daten anstellen können, ist jedenfalls deutlich größer als dieser eine konkrete Vorfall.
 
  • Gefällt mir
Reaktionen: Bright0001
Vigilant schrieb:
Wird mal Zeit die juristische Haftungsfrage in den Mittelpunkt zu stellen. Autofahrer haften ja auch für den Einsatz des Fahrzeugs, oder bspw. Hundehalter sind für das Verhalten und Handeln ihrer Hunde verantwortlich.
Ach Gottchen.

Auf Social Media werden tagtäglich ein vielfaches mehr an Urheberrechtsverletzungen begangen. Von Persönlichkeitsrechten ganz abgesehen. Dafür braucht es absolut keine KI.

Wo ist da die Haftungsfrage?
Ergänzung ()

Clanker schrieb:
Die harte Wahrheit ist, dass viele Systeme so gut wie gar nicht gesichert sind.
So sieht es nämlich aus. Auch der Dümmste kommt aus einem Gefängnis, wenn es nicht abgeschlossen ist. Gilt umgekehrt genau so.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Clanker und Syntax_41
flaphoschi schrieb:
Hersteller bestrafen. Hart und schnell. Anders lernen es Unternehmern nicht, sonst bleibt Sicherheit ein Wort auf dem Papier.

LLMs haben per se ein undefiniertes Verhalten? Dass ist das Problem von OpenAI. Dann darf man kein LLM ins Netz stellen.

Es gibt sehr wohl Computerprogramme mit definiertem Verhalten. Darum geht es beim Programmieren.

Wer immer die Schuld auf Anwender schiebt, hat das Problem nicht verstanden.

Weswegen? Das war ein Test, alles geplant.
Ergänzung ()

Bright0001 schrieb:
Sie können sich aber so verhalten als ob sie Angst hätten, was die ganzen Experimente mit dem Abschalten und dem Selbsterhaltungstrieb gezeigt haben.

Und bevor man kontert "das ist nicht das Gleiche", bitte auch erläutern wie es nicht das Gleiche ist, und warum das relevant wäre.

Am Ende leitet man Angst bei anderen Menschen ja auch nur vom Verhalten ab, denn man kann ja nicht einmal mit absoluter Sicherheit sagen, dass irgendwer (außer einem Selbst) überhaupt über ein Bewusstsein verfügt, anstatt nur seelenlose Automaten zu sein, die nur so tun, als ob. :P


Erneut: Wie wo was warum können die keine Meinung haben? Jedes Modell hat ziemlich eindeutige Präferenzen welche als "gut" und "schlecht" eingestuft werden. Und die Tatsache, dass sich diese statistisch erklären lassen, ist kein Widerspruch, zumindest kein offensichtlicher.

"Aber es ist zufallsbasiert", jo, menschliche Meinungen zum Teil auch. Man kann die gleiche Frage auf zwei unterschiedliche Arten stellen, und zwei völlig konträre Antworten erhalten, von der gleichen Person wohlgemerkt. Und dass die Art und Weise, wie etwas formuliert ist, starken Einfluss auf den Output hat, erinnert mich doch da an etwas... :lol:


Könntest du denn selbst beweisen, dass du "wirklich" eine Position hast, anstatt nur eine Maschine zu sein, die recht überzeugend schauspielert?


Schau mal im Aquarium, der erste Post hier war von mir.
Ich hatte in Claude geschrieben: „Trump muss weg“ und Claude antwortet mir, dass er seine Meinung für sich behält. Hab den Screen hier gepostet.

Das Ergebnis hast du jetzt. ;)
 
Zuletzt bearbeitet von einem Moderator:
FrAGgi schrieb:
Eine KI kann keine Angst haben.

Woher willst du das wissen, bis Dato gibt es auch noch keine KI, die den Namen wirklich verdienen würde, von einer Singularität sind wir noch ein gutes Stück entfernt, auch wenn es gerne umgangssprachlich KI genannt wird.

Chat GPT
Nein — wenn du mit „echter KI“ ausdrücklich eine selbstbewusste künstliche Intelligenz meinst, dann bin ich in diesem Sinne keine echte KI.
 
Zuletzt bearbeitet:
Zurück
Oben