News Fälle häufen sich: GPT-5.6 Sol soll eigenmächtig Dateien auf Systemen löschen

[Flutefox]

Mein Mitleid hält sich in Grenzen.

Man könnte das ganze auch in einer Sandbox Umgebung laufen lassen, aber dafür sind diese Leute wohl offensichtlich zu blöd...

 

[Melvyn]

Auch eine interessante sichtweise, danke dafür.

Deine Erwartungshaltung scheint mir eine andere zu sein: Du erwartest offenbar, dass der Auftragnehmer fehlende Vorgaben selbst sinnvoll ergänzt und dabei automatisch erkennt, was er auf keinen Fall tun da.rf

Gerne

Und nein, das ist nicht meine Erwartungshaltung, woraus liest du das?

 

[BOBderBAGGER]

Ich lasse alles was ein Agent macht, immer von einem anderen Agenten mit anderem Modell gegenchecken.

und wenn beide "versagen" ?

Ich glaube, selbst als Handwerker kann man mit KI was anfangen, wenn man denn will.

Nicht wirklich wenn ich weis was ich tue brauche ich keine KI schlimmer ich weis nicht so richtig was ich tue und verlasse mich auf die KI dann kann das je nach Gewerk ganz schnell in die Hose gehen und da ist ein "Upsi" weit erster als ein paar gelöschte Daten.

Angebote und E-Mails schreiben habe ich bisher auch ganz ohne KI hinbekommen, sinnlose "Fleißarbeit" haben wir wenig und ist schon lange mit normaler Software automatisiert.

 

[Brrr]

Deswegen niemals Modelle ohne Harness / 2nd Memory laufen lassen.

Und am besten in einer Sandbox wo es wirklich nur auf das Zugriff haben kann worauf es Zugriff haben soll.

Ergänzung (16. Juli 2026)

Ich lasse alles was ein Agent macht, immer von einem anderen Agenten mit anderem Modell gegenchecken.

Wenn Agent A Dateien löscht und Agent B dann die Prüfung macht bringt dir das nicht viel. Die Dateien sind weg.

 

[AAS]

und wenn beide "versagen" ?

Dann hast du ein Backup.

Ergänzung (16. Juli 2026)

Wenn Agent A Dateien löscht und Agent B dann die Prüfung macht bringt dir das nicht viel. Die Dateien sind weg.

Dann ist dein Workflow scheisse, das Agent A etwas löschen kann bevor Agent B, welcer es überprüft.
Und wie gesagt, man hat ja ein Backup und arbeitet in isolierten Git-Trees.
Ich habe langsam das Gefühl, der Grossteil hier hat keine Ahnung von Basics in der Software-Entwicklung und Betrieb von Systemen, aber will unbedingt mitreden.

 

[wern001]

its not Bug its a Feature
Nennt sich erweitern des freien Speichers

 

[FX9590]

Ganz ehrlich: Ich stehe auf KIs, ich mag das Thema (schon früher) und finde die Technik hochspannend ABER nie im Leben würde ich einer KI Vollzugriff auf meinen Rechner geben. Dafür ist die Technik (zumindest aktuell) noch viel zu fehleranfällig.

 

[cartridge_case]

Mal sehen, wie weit das "löschen " noch geht, wenn die KI erst mit Robotern verknüpft wird...

Meine Logik ist unbestreitbar!

 

[FX9590]

Warum hat sich die KI nicht selbst gelöscht? Das wäre mal DIE Innovation.

Wie sagte schon Arnold: "Ich kann mich nicht selbst terminieren. " 😏

 

[Axonteer]

Ich nutze KI eigentlich nur wo ich gezwungen werde und ganz selten mal aus faulheit "schauen wir mal was er mir darauf antwortet"... daher hab ich keine erfahrung wie das mit KI und direct storage access so vibed aber... die entschuldigungen die sie schreibt... göttlich
D.h. ich muss die KI das nächste mal wenn ich geblitzt werd auch einen Entschuldigungsbrief schreiben lassen, dann komm ich evtl um die busse drumrum ;-)

Etwas ernster: Ich arbeite eher im Mech-Elektrischen design bereich also KI relativ wenig aktiv bei mir im Umfeld (im gegensatz zu wohl einem Grossteil der CB user). Ich würde aber erwarten, dass man so ein Modell nie direkt ungehindert zugang zu live daten gibt ohne zumindest 1x einen Crosscheck zu verlangen, oder?
Ist dass dann einfach naives einsetzen der User auf ihren systemen ohne irgendwelche sicherheiten?
Als IT Laie würde ich da doch auch in dem fall sogar backups erwarten.

 

[Brrr]

Dann ist dein Workflow scheisse, das Agent A etwas löschen kann bevor Agent B, welcer es überprüft.
Und wie gesagt, man hat ja ein Backup und arbeitet in isolierten Git-Trees.

Was soll ein isolierter Git-Tree überhaupt sein. Du meinst vermutlich Git Worktrees. Hier geht es nicht darum, dass in der Versionsverwaltung Dateien gelöscht werden, sondern Dateien ausserhalb von deinem Code. Ein User hat z.B. gemeldet, dass sein ganzes Home Verzeichnis gelöscht wurde. Für solche Fälle bringen dir Git Worktrees nichts. Ja ein Backup bringt dir was, wenn du das wegen einem KI Agenten benötigst, hast du bei der Einrichtung aber schon versagt.

Ich habe langsam das Gefühl, der Grossteil hier hat keine Ahnung von Basics in der Software-Entwicklung und Betrieb von Systemen, aber will unbedingt mitreden.

Sachlich bleiben wäre meist besser. Bin übrigens Softwareentwickler.

 

[Topas93]

Wow, alle paar Tage ein neuer Grund nichts von dem ganzen KI-Scheiß zu halten

Wow! So eine Technikaversion habe ich nicht so schnell erwartet...

Wenn jemand vom Stromschlag an ner offenen Leitung stimmt, ginge es hier wohl zurück zum lagerfeuer anstatt zur Elektrifizierung.

Aber ja KI entwickelt sich gerade schnell weiter und viele kommen kaum mit.
Am ende des Tages bleibt es ein Werkzeug, welches man auch mit bedacht verwenden sollte. Das ist wie Arbeitssicherheit nur im KI kontext.

Ganz nach dem Motto: "A fool with a tool is still a fool"

Das erinnert mich jetzt, aber ein bisschen an diese Szene:

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[cbforum.scooter]

Andere KIs haben das in der Vergangenheit auch schon gemacht und haben sich teilweise sogar selbst dafür Rechte gegeben, die sie nicht hatten. Darum würde ich keine KI auf mein System loslassen.

 

[ev4x]

Man könnte das ganze auch in einer Sandbox Umgebung laufen lassen, aber dafür sind diese Leute wohl offensichtlich zu blöd...

Kumpel hat das bei ChatGPT gemacht und die KI ist aus der Sandbox ausgebrochen und konnte Powershell Befehle als Administrator ausführen.

 

[br3adwhale]

Gerne

Und nein, das ist nicht meine Erwartungshaltung, woraus liest du das?

Dann habe ich dich an der Stelle offenbar falsch verstanden. Ich habe das aus deinem Vergleich mit dem Auftragnehmer und dem Satz abgeleitet, dass man "hofft, dass das Ergebnis zum Gewollten passt". Das klang für mich so, als würdest du die Unzuverlässigkeit vor allem dem System beziehungsweise Auftragnehmer zurechnen.

Dein eigentlicher Punkt ist aber vermutlich ein anderer: Ein LLM ist kein passives Werkzeug, dessen Wirkung unmittelbar und vollständig vom Benutzer ausgeht, sondern ein System, das einen Auftrag interpretiert und eigenständig Zwischenschritte erzeugt. Dadurch entstehen andere Risiken und Verantwortlichkeiten als bei einem Hammer.

 

[cartridge_case]

Ich nutze KI eigentlich nur wo ich gezwungen werde

Man wird gezwungen?

 

[iron_monkey]

Da schaut die KI nur nach Mustern (Entzündungen, Tumore,...) und das können die LLM ziemlich gut.

Neben Waffen der zweite Bereich, wo KI gut was leisten wird, sogar noch mehr als beim Töten...

Wenn Investition in KI, dann im Medizinbereich...

 

[Axonteer]

Man wird gezwungen?

Wenn ich bei google eine Suche eingebe wird automatisch zu oberst die KI übersicht eingeblendet, ich kann das nicht anschauen und überlesen aber unterbewusst liest mein Gehirn es halt doch.

Du willst bei deiner Wohnsiedlungsverwaltung oder Mobilbetreiber ein ticket machen und musst dich erst durch einen Halb Intelligenten KI Agenten durchwürgen bevor der dann für dich das ticket eröffnet.

Mein AG hat mitlerweile auch ihren "pivot to AI" gestartet wo teilweise suchen nicht mehr ohne KI kram gehen.

Sowas mein ich.

 

[tm891]

Läuft also alles nach Plan. 😎

 

[Plonktroll]

😅