Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsOpenAI Astra: Neues KI-Modell ist selbst OpenAI zu gefährlich
OpenAI zieht bei seinem kommenden KI-Modell Astra vorerst die Sicherheitsbremse. Interne Tests zeigen derart große Fortschritte bei Programmierung und Cybersecurity, dass der Entwickler die höchste Risikostufe „Critical“ nicht mehr ausschließen kann. Aktivitäten ohne entsprechend verschärfte Sicherheitsmaßnahmen wurden pausiert.
Dazu zählen isolierte Testumgebungen, ein eingeschränkter Netzwerk- und Werkzeugzugriff, eine stärkere Verschlüsselung und Absicherung der Modellgewichte sowie zusätzliche Überwachungsmechanismen und Sandboxing.
"unsere KI is zu gefährlich" reiht sich jetzt bei mir ein zu den Sätzen wie "ich hab den längsten, kann ich aber gerade nicht zeigen". Oder ein Klassiker "ich hab 5 kaputt geschlagen, hat aber keiner gesehen und sag keinem!"
Und wieder isrt es Sonntag und ich schäme mich ein Mensch zu sein.
Is Marketing ... aber auch ein Ablenkungsmanöver. So kann man sich mit der philosophischen Komponente beschäftigen und von der allmächtigen KI fabulieren. Echte und reale Risiken und Probleme werden aus dem Scheinwerferlicht gedrängt.
Ich kann den Unmut über KI News dieser Couleur nachvollziehen - mir geht das Thema rund um KI bei Zeiten allgemein auf den Keks.
Doch es ist auch nicht von dee Hand zu weisen, dass diese Modelle enormes Potential beherbergen und ich bin mir sicher, dass sehr viele dieses stark unterschätzen.
CyberSecurity ist verdammt komplex, so wie unsere heutigen Architekturen in Infrastruktur und Software. Diese sind zum Teil derart vielschichtig und verwoben, dass es eine Person gar nicht mehr überblicken kann - genau hier ist die KI uns um unglaubliche Faktoren überlegen.
Dass diese Überlegenheit ein Unwohlsein hervorruft und auf Ablehnung bei der Akzeptanz bzw. Unglauben stößt ist vermutlich menschlich. Auch die Kadenz in der solche Nachrichten erscheinen ist schwierig. Wir sind als Gesellschaft schon im Umgang mit dem Internet gescheitert - meine ehrliche Meinung. KI wird bzw. überfordert uns mit ihrer Geschwindigkeit bereits jetzt schon. Wir kommen nicht einmal mehr hinterher, außer man beschäftigt sich mit nichts anderem mehr / schläft zu wenig.
Eigentlich müssten wir Regelungen für KI aufsetzen, die uns als Menschen, als Gesellschaft schützen. Die Hersteller sollten imho die Forschung pausieren, bis wir diese platziert und gelernt haben mit ihnen zu leben. Auch hier herrscht Vielschichtigkeit. So sollten wir aufhören Junioren auf der Straße sitzen zu lassen. Wir sollten die Technologie als Beschleunigung, nicht als Ersatz ansehen.
Aber vor allen Dingen muss bedacht werden, dass es immer Akteure mit schlechten Absichten geben wird - leider!
Das Spielchen geht doch schon seit Monaten wie folgt: Es wird eine neue Version angekündigt oder sie befindet sich in einem finalen Entwicklungsschritt und wird als die neuste, beste, gefährlichste KI bezeichnet. Wenn Google soweit ist, dann wird das genauso kommuniziert werden. Die werden sich mit jeder neuen Version überbieten, was auch irgendwie logisch erscheint. Nur ist das Ganze auch endlich. Dann bin ich gespannt wer sich durchsetzen wird.
Jeder der sich mit Cybersicherheit auskennt kann Anwendungen schreiben um Sicherheitsmechanismen von vielen "gehärteten" Systemen auszuhebeln. Diese Leute werden auch nicht an einer Leine gehalten.
Ich arbeite beruflich viel mit ChatGPT/Codex und es ist schon nicht schlecht, aber da geht noch viel mehr. Das Teil ist weit davon entfernt zu intelligent zu sein.
Die Verzweiflung der KI Firmen muss ja groß sein um sich ständig mit solchen Werbeveranstaltungen lächerlich zu machen. Wenn wirklich was dran wäre, dann hätten sie schon längst die Russen/Chinesen gehackt und deren IT ins Mittelalter geschickt. Alles nur Show um ihre KI zu pushen.
