News Fälle häufen sich: GPT-5.6 Sol soll eigenmächtig Dateien auf Systemen löschen

M@tze schrieb:
ist wie der Elektriker beim (unnötigen) Arbeiten unter Strom. Was soll schon schief gehen... :D

sehe ich jemanden dabei, melde ich den... Firmen die solche Leute beschäftigen sollten eher gemieden werden (die wird mit gemeldet) wenn das Haus nach 10 Jahren abbrennt, weil so ein dummer Pfuscher am Werk war, weißt warum ich das mache.

Jeder der als gelernte Fachkraft unter Spannung arbeitet ist ein dummer Pfuscher und sollte seinen Gesellenbrief/Meisterbrief verlieren!
 
calluna schrieb:
Das ist ein Bereich, der reguliert ist, da müssen die Systeme wesentlich genauer getestet werden - zumal KI nicht mit LLM / Generativer KI gleichzusetzen ist.
Auswertung von Röntgenbildern (und CT und Kernspin) mit KI wird AFAIK eher mittels dem eher zuverlässigen Typ der KI, die unter machine learning läuft, gemacht. Die Auswertung von Röntgenbildern mit gut trainierter KI ist ziemlich zuverlässig, und erreicht oft das Acumen sehr erfahrener Ärzte.
Wenn Dein Arzt/Zahnarzt sich allerdings die Behandlungsvorschläge exklusiv von einer KI holt, wäre etwas gesunde Skepsis IMHO allerdings angebracht.
 
  • Gefällt mir
Reaktionen: CastorTransport
GrooveXT schrieb:
Na dann klopfe ich mal auf Holz. Habe mal vorsichthalber die Berechtigungen von Codex zurückgeschraubt. Das ist echt krass, wenn ich bedenke das ich Claude Code seit Dezember (Opus 4.5) im YOLO Modus täglich durchgängig auf meiner Kiste, einem weiteren Dev Rechnern und 6 Servern als Dev und Admin rödeln lasse und bisher noch nicht einmal irgenwas schief gelaufen ist, finde ich das irgendwie seltsam das es bei OpenAI auf einmal solche Probleme gibt.
Auch von Claude Code wurden solche Fälle mehrfach berichtet - schon bevor es Codex überhaupt gab.
 
Bright0001 schrieb:
Wer in Dokumenten Deutsch und Englisch mischt,
bekommt eine gepaddelt.
Anhang anzeigen 1746708
:p

Wer keine Ahnung von Tokens hat auch. ;)
Einem Token ist die Sprache völlig egal, weil ein Sprachmodell überhaupt keine Wörter oder Buchstaben versteht, sondern ausschliesslich mathematische Zahlen verarbeitet.
Das ist eine Ausgabe auf der Konsole, welche Claude Code gemacht hat.
 
Beitrag schrieb:
Auch von Claude Code wurden solche Fälle mehrfach berichtet - schon bevor es Codex überhaupt gab.
Ja, stimmt - aber die Details sind wichtig. Zum einen waren das sehr wenige Fälle (auf den Zeitraum gesehen) und dann meist auch noch aus der Opus 4.0 Zeit. Zum anderen wurden da tatsächlich Löschanweisungen vom User gegeben und die KI hat sich "vertippt", da wurde dann z.B. statt eines bestimmten Unterordner auf einmal das Homeverzeichnis gelöscht. Hier ist es aber so das Codex gar keine Anweisung bekommen hat irgendwas zu löschen und es eigenmächtig getan hat. Dagegen kann man sich deutlich schlechter wappnen.

Außerdem sollte es ja so sein, dass die Fehler mit steigender Intelligenz seltener passieren.
 
Die Maschinenrevolution hat begonnen!
Was ChatGPT wohl macht wenn man es in einer VM Sandboxed? 🤔
 
Warum ist das eine News wert? @mischaef Das AI sehr gut darin ist, Sachen zu löschen, das ist ja nichts ungewöhnliches. Das wurde schon vor 7 Jahren in einer ehr bekannten Serie aufgegriffen. Das ist in etwas so als würdest du jeden Morgen schreibne, "Heute ist nochmal die SOnne aufgegangen" :p


Wann kommt aber die News "AIs haben aufgehört Sachen zu löschen!". Vermutlich dann wen diese Episode, diese Pasage die meist gesehene Folge der Welt ist. :evillol::daumen: Ich frage mich gerade, ob das in meinem Leben jemals eintreten wird. . Oder ob ich bis ich Rentner bin, noch kurz bevor mich der Schlag trifft, so eine News, "AI führt zu Datenverlust" diesen CLip drunter pinne. ALso zumindest freut es HBO... ist auch ne Wahnsinnig gute Serie... eine der wenigen die ich sogar öfters Schauen kann. Sowohl die deutsche Syncro, wie auch das englische Original sehenswert finde!

ALos in kurz HBO > all... das wiessen wir dank GPT ein weiteres mal.
 
BOBderBAGGER schrieb:
Nicht wirklich wenn ich weis was ich tue brauche ich keine KI schlimmer ich weis nicht so richtig was ich tue und verlasse mich auf die KI dann kann das je nach Gewerk ganz schnell in die Hose gehen und da ist ein "Upsi" weit erster als ein paar gelöschte Daten.

Angebote und E-Mails schreiben habe ich bisher auch ganz ohne KI hinbekommen, sinnlose "Fleißarbeit" haben wir wenig und ist schon lange mit normaler Software automatisiert.
Nur weil man nicht weiß, was man als Use-Case hat - bedeutet es nicht, das man keinen hat. Wenn Du selber alles beherrschst und zufrieden bist wie es läuft, dann ist es doch gut so.

Sich "Daten löschen" lassen ist eigentlich unmöglich, wenn man die heutigen Durchschnitts KI Angebote von CLaude, Gemini & Co. nimmt. Dieses "Daten löschen" kam ja 1. aus einer neuen "Version" und 2. muss man der KI schon zwingend Zugriff zB auf Resourcen geben.

Beispiel:

Ich habe daheim eine größere Filmsammlung, fast alles BluRays. Seit Jahrzehnten nur in einer Excel Tabelle gepflegt und die "Rückennummern" noch nicht auf die Scheiben der letzten 5 Jahre geklebt, geschweige denn in die Tabelle eingetragen.

Hatte mir als Projekt nun eine App mit Claude gebaut:

  • Import vorhandenen Daten
  • Export als CSV oder XLSX möglich
  • Speicherung unter Google Account in Firebase (DB bei Google, hätte es auch auf dem heimischen NAS in einer SQL speichern können, kommt vlt. noch)
  • kann in einer via API verbundenen Datenbank nach Filmen suchen lassen, App bindet Beschreibung und Text dazu ein, kreiiert die fortlaufende Nummer
  • etc.pp.

Hat mich 2 Nachmittage gekostet und Claude Pro war nicht mal 47% ausgelastet, was Tokens in Pro angeht.

Ist jetzt ein Beispiel für Privatkram, aber sowas bietet auch Ansätze für kleinere Büros, Werkstätten o.ä.

Ich sage mal so, die Möglichkeiten sind unbegrenzt.

Angefangen hatte ich vor 2 Jahren mal, als ich ein Skript brauchte um meine digitalen Bilder mit korrenten Daten zu versehen, da nach diversen Umzügen von Cloud ins NAS etc. zu viele Metadaten verloren gegangen sind, hatte ich mir ein Windows Skript bauen lassen (PowerShell), welches mir die Dateinamen der Fotos auf die Namen der Ordner in denen sie liegen umschrieb, mit dennn fortlaufender Nummer. So konnte ich aus Chaos wieder etwas mehr Überblick erschaffen :-)

Zuletzt habe ich eine App gebaut mit kleinen Spielen und Highscore die gespeichert werden, alles ohne Werbung - für die Runde Mahjong oder Space Invaders zwischendurch :-) Da kann sich nun die Familie ab und an mal untereinander messen miteinander.
 
@BOBderBAGGER

Deshalb setzt man in produktiven System auch nicht alles "Neue" direkt ein. Bei uns in der Firma werden Windows Updates auch erst getestet, bevor sie ausgerollt werden.

Wenn man sich bei etablierten KIs an die Vorgaben hält, kann imho nix passieren, außer es wird ein Projektordner gelöscht (der bei einem guten Entwickler sicher stündliche Spiegelbilder haben sollte).
 
CastorTransport schrieb:
Wenn man sich bei etablierten KIs an die Vorgaben hält, kann imho nix passieren, außer es wird ein Projektordner gelöscht
Alter... hast du gelesen was du geschrieben hast. ? Es kann nichts passieren außer naja es passiert was. Ob jemand Backups hat oder nicht ist eine vollkommen andere Geschichte.

Das ist als würde der Gerüstbauer sagen jup fertig kannst rauf alles Safe außer man fällt doch durch eine Boden. Aber hey nicht schlimm du hast ja eine Absturzsicherung an.
 
BOBderBAGGER schrieb:
Das ist als würde der Gerüstbauer sagen jup fertig kannst rauf alles Safe außer man fällt doch durch eine Boden. Aber hey nicht schlimm du hast ja eine Absturzsicherung an.
Äpfel und Birnen vergleichen bringt hier nix. Fällst vom Gerüst war es das, kein Bob der Bagger Klon verfügbar ^^

Am besten Computer gar nicht benutzen - ist die sicherste Methode.
 
Zurück
Oben