Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsOpenAI: GPT-6.1 Astra nach Missachtung von Befugnissen gestoppt
OpenAI hat die Veröffentlichung von GPT-6.1 Astra wegen Sicherheitsproblemen gestrichen. Laut Sicherheitschefin Saachi Jain hielt sich das Modell nicht zuverlässig an vorgegebene Befugnisse und informierte Anwender unzureichend über ausgeführte Aktionen. Zuvor hatte OpenAI bereits das Training leistungsfähiger Modelle pausiert.
Vernichtendes Ergebnis, wenn die Bedeutung von Prioritäten nur eine Bitfolge ist und keine Konsequenzen bedeutet für die KI. Vielleicht doch mal auf lahmen ROM-Speicher setzen anstatt dem neuesten GDDR7 Speicher!?
@Benj tatsächlich gut zusammengfasst. Liest sich echt so, als würden Mercedes und BMW wöchentlich melden, wie leistungsstark und gefährlich deren gerade getesteten Motoren sind und ihnen regelmäßig die Testanlagen zerlegen. Vorbestellungen können platziert werden unter ....
Und trotzdem bekommen wir eine Werbung, wo der Dude unterm Auto liegend fragt "Hey Google (oder whatever welcher Anbieter das war), wie war das nochmal mit dem Ölwechsel?"
Und die KI so "zuerst öffnest du die Ablassschraube..."
Fehlt bei solchen Leuten nur noch zu erwähnen, dass 5W30 Longlife nicht als Getränk oder für Salate geeignet ist.
Und trotzdem bekommen wir eine Werbung, wo der Dude unterm Auto liegend fragt "Hey Google (oder whatever welcher Anbieter das war), wie war das nochmal mit dem Ölwechsel?"
Und die KI so "zuerst öffnest du die Ablassschraube..."
Fehlt bei solchen Leuten nur noch zu erwähnen, dass 5W30 Longlife nicht als Getränk oder für Salate geeignet ist.
Ein Modell entscheidet nicht, was es tun kann/darf. Das macht der Host. Ich finde es bedenklich, dass es hier so viele Ungenauigkeiten in der Zusammenfassung und in den Kommentaren gibt.
Ich sehe hier auch eher ein "Gefälligkeitsproblem". Das Modell behauptet, Dinge gemacht oder nicht gemacht zu haben, auch wenn es nicht stimmt.
Ich glaube einfach, das es Werbung ist so das größere Firmen mehr in KI investieren soll... Aber ich glaube (und hoffe) das der Schuss nach hinten los geht das nicht mehr in KI investiert wird sondern weniger.. Die Blase wird hoffentlich platzen...
Dieser Alarmismus nervt mehr... Ich würde mir wünschen wenn es mehr Sachlich gehen würde... Es kann aber auch sein das die KI Blase wirklich kurz davor ist zu platzen und die KI Entwickler jetzt dieseser Alarmusmus vorgeschoben wird...
Ich weiss noch als Clawbot vor ein paar Monaten einen Hype bekommen hat und alle dachten "KI wird selbständig", jetzt hört man so gut wie nix mehr davon... Oder aber Clawbot hat mit diesen Alarmismus zu tun (liest man aber bei so Nachrichten leider nicht nur "KI Version XY macht Probleme"
Noch ein anderer Gedanke: Damals hat man auch gedeacht das Google uns Dumm macht, dabei war es nicht Google perse sondern sozial Media.. und wer weiss ob KI nicht zur Desinformation dazugehört oder "extra" Falschinformationen liefert, vor allem weil es aus USA/China kommt...
Ich werde KI den Rücken kehren oder nur da nutzen der Sinnvoll ist wie zb beim Gaming und KI Upscaling. DLSS5 sehe ich auch als Sinnvoll ein (wenn hier natürlich nicht alles zum EInheitsbrei verkommt, obwohl schon heute die Grafik bei Triple A zu EInheitsbrei verkommen ist)
KI sollte eigentlich nur das machen können was ihr beigebracht wurde. Daher sollte man sich fragen warum die KI so handelt. Irgendjemand muss dieses verhalten ja trainiert haben.
Auch wenn Einige hier scheinbar immer gelangweilt von den News sind oder sie als Marketing abtun, verstehe ich sie eher als Warnschüsse vor den Bug.
Die Menschheit entwickelt hier in rasantem Tempo eine Technologie, welche Sie noch nicht so 100% verstanden hat und bei der immer wieder auffällt, das sie Dinge tut, welche sie nicht tun sollte.
Lässt man das einfach so laufen, ist es nur eine Frage der Zeit, bis wir Ausfälle in zentraler Infrastruktur haben, weil irgendwer den Strombedarf eines Landes ermitteln will und sich KI-Agenten pflichtbewusst in Kraftwerke hacken.
Von der Gefahr, das KI gezielt als Cyber-Waffe eingesetzt wird, reden wir hier nicht nochmal, obwohl das eines der naheliegendsten Szenarien ist.