News OpenAI: GPT-6.1 Astra nach Missach­tung von Befugnis­sen gestoppt

mischaef

Kassettenkind
Teammitglied
Registriert
Aug. 2012
Beiträge
8.249
OpenAI hat die Veröffentlichung von GPT-6.1 Astra wegen Sicherheitsproblemen gestrichen. Laut Sicherheitschefin Saachi Jain hielt sich das Modell nicht zuverlässig an vorgegebene Befugnisse und informierte Anwender unzureichend über ausgeführte Aktionen. Zuvor hatte OpenAI bereits das Training leistungsfähiger Modelle pausiert.

Zur News: OpenAI: GPT-6.1 Astra nach Missach­tung von Befugnis­sen gestoppt
 
  • Gefällt mir
Reaktionen: BorstiNumberOne, BrollyLSSJ und IBMlover
Das häuft sich nun etwas zu oft. Was fehlt sind tatsächliche Konsequenzen und mehr Regularien. Und das Weltweit.
 
  • Gefällt mir
Reaktionen: BorstiNumberOne, fineline, Weyoun und 4 andere
Gähn, jede Woche das gleiche Muster aktuell.

  1. KI-Anbieter: Oh nein, unser neues Modell ist zu gefährlich für diese Welt!
  2. Welt: Wow, das klingt gefährlich, was für eine mächtige KI!
  3. KI-Anbieter: Lasst uns alle die Entwicklung bremsen/stoppen!
  4. Welt: Naja wir können schon mal ein paar Bunker restaurieren, aber bitch please, der KI-Zug hat keine Bremsen!
  5. KI-Anbieter: Wir haben "optimiert" (wissen aber selbst nicht, was wir da gemacht haben) und veröffentlichen das neue Modell trotzdem.
  6. Welt: Hurra! Hier sind meine Kreditkartendaten!
 
  • Gefällt mir
Reaktionen: flo.murr, BorstiNumberOne, TomausBayern und 36 andere
@Benj tatsächlich gut zusammengfasst. Liest sich echt so, als würden Mercedes und BMW wöchentlich melden, wie leistungsstark und gefährlich deren gerade getesteten Motoren sind und ihnen regelmäßig die Testanlagen zerlegen. Vorbestellungen können platziert werden unter ....
 
  • Gefällt mir
Reaktionen: the_IT_Guy, flo.murr, BorstiNumberOne und 11 andere
Release-Termin verschoben Wir müssen noch an Bugs arbeiten und optimieren.
 
  • Gefällt mir
Reaktionen: aLanaMiau, Dogbrothers und Zocker1996
Ich glaub kein Wort
 
  • Gefällt mir
Reaktionen: monstar-x, _vicious_, the_IT_Guy und 5 andere
bin mal gespannt wann einer seinem KI-Agenten sagt er hätte durch die Stadt gerne eine grüne Welle
 
  • Gefällt mir
Reaktionen: Yotoku und Kuristina
Und trotzdem bekommen wir eine Werbung, wo der Dude unterm Auto liegend fragt "Hey Google (oder whatever welcher Anbieter das war), wie war das nochmal mit dem Ölwechsel?"

Und die KI so "zuerst öffnest du die Ablassschraube..."

Fehlt bei solchen Leuten nur noch zu erwähnen, dass 5W30 Longlife nicht als Getränk oder für Salate geeignet ist.
 
  • Gefällt mir
Reaktionen: Solavidos
dafür geben wir doch gern ne menge speicher her und zahlen horrende preise für technik juhuuuu
 
Mondgesang schrieb:
Und trotzdem bekommen wir eine Werbung, wo der Dude unterm Auto liegend fragt "Hey Google (oder whatever welcher Anbieter das war), wie war das nochmal mit dem Ölwechsel?"

Und die KI so "zuerst öffnest du die Ablassschraube..."

Fehlt bei solchen Leuten nur noch zu erwähnen, dass 5W30 Longlife nicht als Getränk oder für Salate geeignet ist.
Ist aber manchmal ganz praktisch, wenn man vor was steht, wo man sich nicht auskennt, und die KI fragen kann.
 
Ein Modell entscheidet nicht, was es tun kann/darf. Das macht der Host. Ich finde es bedenklich, dass es hier so viele Ungenauigkeiten in der Zusammenfassung und in den Kommentaren gibt.
Ich sehe hier auch eher ein "Gefälligkeitsproblem". Das Modell behauptet, Dinge gemacht oder nicht gemacht zu haben, auch wenn es nicht stimmt.
 
  • Gefällt mir
Reaktionen: the_IT_Guy
Insgeheim sind doch solche "versehentlichen" Ausbrüche oder Angriffe nur Live Demos für die zahlungskräftigen Regierungen dieser Welt.

Das ist in der Masse kein Versehen mehr. Das ist Marketing.
 
  • Gefällt mir
Reaktionen: the_IT_Guy, gartenriese und Leranis
Ich glaube einfach, das es Werbung ist so das größere Firmen mehr in KI investieren soll... Aber ich glaube (und hoffe) das der Schuss nach hinten los geht das nicht mehr in KI investiert wird sondern weniger.. Die Blase wird hoffentlich platzen...

Dieser Alarmismus nervt mehr... Ich würde mir wünschen wenn es mehr Sachlich gehen würde... Es kann aber auch sein das die KI Blase wirklich kurz davor ist zu platzen und die KI Entwickler jetzt dieseser Alarmusmus vorgeschoben wird...

Ich weiss noch als Clawbot vor ein paar Monaten einen Hype bekommen hat und alle dachten "KI wird selbständig", jetzt hört man so gut wie nix mehr davon... Oder aber Clawbot hat mit diesen Alarmismus zu tun (liest man aber bei so Nachrichten leider nicht nur "KI Version XY macht Probleme"



Noch ein anderer Gedanke: Damals hat man auch gedeacht das Google uns Dumm macht, dabei war es nicht Google perse sondern sozial Media.. und wer weiss ob KI nicht zur Desinformation dazugehört oder "extra" Falschinformationen liefert, vor allem weil es aus USA/China kommt...

Ich werde KI den Rücken kehren oder nur da nutzen der Sinnvoll ist wie zb beim Gaming und KI Upscaling. DLSS5 sehe ich auch als Sinnvoll ein (wenn hier natürlich nicht alles zum EInheitsbrei verkommt, obwohl schon heute die Grafik bei Triple A zu EInheitsbrei verkommen ist)
 
KI sollte eigentlich nur das machen können was ihr beigebracht wurde. Daher sollte man sich fragen warum die KI so handelt. Irgendjemand muss dieses verhalten ja trainiert haben.
 
Carsti80 schrieb:
Ein Modell entscheidet noch nicht, was es tun kann/darf.

Das kommt noch wenn es so weiter läuft wie bisher...
 
Oder aber das Ding ist einfach nur zu teuer für den Betrieb? Oder doch nicht soo toll?
 
  • Gefällt mir
Reaktionen: willriker
oder ggf. hat OpenAI gemerkt das auch Astra 6.1 nichts gegen Opus 5.5 reißt und es daher gestoppt...
 
  • Gefällt mir
Reaktionen: Zagrthos und willriker
Auch wenn Einige hier scheinbar immer gelangweilt von den News sind oder sie als Marketing abtun, verstehe ich sie eher als Warnschüsse vor den Bug.
Die Menschheit entwickelt hier in rasantem Tempo eine Technologie, welche Sie noch nicht so 100% verstanden hat und bei der immer wieder auffällt, das sie Dinge tut, welche sie nicht tun sollte.

Lässt man das einfach so laufen, ist es nur eine Frage der Zeit, bis wir Ausfälle in zentraler Infrastruktur haben, weil irgendwer den Strombedarf eines Landes ermitteln will und sich KI-Agenten pflichtbewusst in Kraftwerke hacken.

Von der Gefahr, das KI gezielt als Cyber-Waffe eingesetzt wird, reden wir hier nicht nochmal, obwohl das eines der naheliegendsten Szenarien ist.
 
  • Gefällt mir
Reaktionen: basix, el_zoido, arteus und 4 andere
Zurück
Oben