News OpenAI Astra: Neues KI-Modell ist selbst OpenAI zu gefährlich

[Biedermeyer]

SARS-CoV-2 war gestern...

 

[slind]

Langsam nervt diese ungeprüfte Übernahme von PR-Schrott der AI-Anbieter mich gewaltig.

 

[Alphanerd]

"unsere KI is zu gefährlich" reiht sich jetzt bei mir ein zu den Sätzen wie "ich hab den längsten, kann ich aber gerade nicht zeigen"

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

Wen das Lied überfordert: ganz am Ende die Konversation

 

[Jolly91]

Hätte man den Astra einfach auf Allrad gebaut wär´s weniger gefährlich...

 

[KaiokenX]

Den letzten Absatz fand ich gut mit "Guter Werbung" diese Meldungen von den KI betreibern liest sich auch so wie die Geschichte von dem einen Dicken Kumpel der behauptet das seine neue Freundin ein Model ist, aber ma sie nie zusammen sieht.

 

[eXdeath]

Noch lacht ihr alle. Finde die Entwicklung echt besorgniserregend :-/.

 

[FabianX2]

Muss auch sagen dass mich Haltung, Wissen und Umgang mit dem Thema hier in einem computerforum irritiert. Jedem der an den Fähigkeiten aktueller Produkte zweifelt empfehle ich mal einen belibigen Harness mit GPT Sol, Kimi 3, Standadtcopute opencodego vll. noch glm 5.2 dazu local ergänzt durch ein unzensiertes QWEN 35 zu probieren. Wenn die Prodkute alle ihren Stärken entsprechend eingesetzt werden ist das der reine Wahnsinn. Und dann zweifelt ihr dass ein Astra ohne Leinen was kann?

Mag alles auch Marketing sein aber das ist eher der Nebeneffekt. Ich persönlich hätte auch kein Problem damit wenn niemand daran glaubt bis es nicht mehr anders geht. Meine Befürchtung ist aber dass wir Menschen einen Weg finden auch hier das utopische Potenzial zu verspielen. Wir wanken hier auf einem Drahtseil zwischen utopie und dystopie. Leider wird es uns alle brauchen das in die richtige richtung pendeln zu lassen wenn wir die verantwortung nicht denen geben wollen die schon das aktuelle System gegen die Masse und für die Eliten nutzen.

 

[DeusExMachina]

Also irgendwann, oftmals an Krebs oder Altersschwäche. Damals, in grauer Vorzeit, wurde auch der halbe Weltuntergang herbeigeredet als es um den Y2K-Bug ging, überlebt haben wir das trotzdem.

Weil das damals ernst genommen wurde und eine der teuersten Reparaturaktionen der Geschichte (damals) aus gelöst hat.

Es gibt durch aus Verantwortliche die ihren Job gut beherschen.
Heutzutage würde ich ernsthafte Sorgen haben das sowas wie y2k noch einmal so koordiniert und erfolgreich angegangen werden würde. Das werden wir sehen wenn die Linuxzeit durch gelaufen ist

Wieso sieht es nicht danach aus? Die sind heute schon problemlos dazu in der Lage, reale Sicherheitslücken zu finden und auszunutzen. Natürlich kann damit viel schaden angerichtet werden.

Also bisher sind alle "Ausbrüche" in der Retrospektive betrachtet, eher konstruierte Simulationen gewesen als "echte" Ausbrüche.

Klar finden die Code Reviewing Tools Schwachstellen
Aber eine Code Schwachstelle finden bedeutet nicht das es ein reales aus Nutzungsszenario gab oder geben wird.

Das bedeutet aber nicht das es egal ist, eine Schwachstelle finden und beheben selbst wenn es nur ne CVE 1 wäre ist trotzdem eine weg. Ob sich das am Ende lohnt darüber könnne sich die Controller streiten.

 

[Azghul0815]

Ich finde es total faszinierend, wie viele Leute solche IT-News immer als reines Marketinggeplapper abtun. Wenn man sich die reale Entwicklung anschaut, was LLMs inzwischen können und was mit den Sandboxes dahinter möglich ist, dann ist die Entwicklung der letzten zwei oder drei Jahre durchaus beunruhigend.

Ich bin auch keiner, der sagt, dass alles, was dort geschrieben wird, der Wahrheit entspricht. Aber selbst wenn nur die Hälfte davon wahr ist, ist das schon bedenklich genug.

Ich selbst bin in mehreren komplexen IT-Projekten tätig. Allein die Erkenntnis, wie dort teilweise mit Daten umgegangen wird und wie viele Lücken es in solchen Systemen gibt, ist echt alarmierend.

Deshalb bin ich der Meinung, dass jeder, der einfach schreit, das sei alles nur Blabla und reines Marketing, wahrscheinlich von der Materie nicht besonders viel Ahnung hat. Jeder, der sich etwas intensiver mit der Materie beschäftigt und selbst schon mit solchen Modellen gearbeitet hat, müsste eigentlich erkennen, wie mächtig solche Modelle sein können. Vor allem dann, wenn keine entsprechenden Sicherheitsbeschränkungen vorhanden sind.

 

[bluephoenix1008]

Noch lacht ihr alle. Finde die Entwicklung besorgniserregend :-/.

Das sehe ich genau so.

 

[JlNX]

Skynet

 

[herby53]

Bin gespannt, wenn solche Tools erfolgreich dafür eingesetzt werden, die Konten einer Bank leer zu räumen.

Wenn ich nach sowas frage kommt immer nur, dass mir keiner dabei helfen will.

 

[Nero Atreides]

Open AI will an die Börse und schon seit Monaten gibt es Spekulationen, dass nicht alle, aber eine Menge dieser "die KI hat sich selbständig gemacht" Geschichten eine Art von Marketing sind. "Seht her, wie supertoll übermächtig unser Modell ist! Unser Modell hat viel mehr gehackt als das andere Modell..." usw usw.

 

[Vulpecula]

Das Muster, das die KI-Konzerne seit Jahren bedienen, scheint sich jetzt endgültig zu verfestigen: Begehrlichkeiten durch cleveres Doom-Marketing wecken.

Die Debatte wird wieder auf extrem hochgestochene Risiken gelenkt (siehe Anthropic), um gleich zwei Fliegen mit einer Klappe zu schlagen: Man inszeniert sich als verantwortungsvoller Akteur, der eng mit Regierungen kooperieren „muss“, und lenkt gleichzeitig elegant von Problemen ab.

Dass die Modelle kontinuierlich besser werden (auch bei spezifischen Sachen wie OpSec oder Cybersecurity) bezweifelt ja niemand. Aber diese Inszenierung als „zu gefährlich für die Welt“ ist am Ende vor allem eines: Verdammt gutes Marketing.

 

[StephenFalken]

Opel Astra habe ich gelesen

Ergänzung (Gestern um 16:33)

Open AI will an die Börse und schon seit Monaten gibt es Spekulationen, dass nicht alle, aber eine Menge dieser "die KI hat sich selbständig gemacht" Geschichten eine Art von Marketing sind. "Seht her, wie supertoll übermächtig unser Modell ist! Unser Modell hat viel mehr gehackt als das andere Modell..." usw usw.

ja, davon gehe ich auch aus.
Claude ist Open AI davon gezogen.
da wollte Open AI auch mal was liefern. mal einen raushauen.

 

[Elderian]

Natürlich ist es Marketing. Das gleiche Muster wie immer, leider.
Aber ich habe miterlebt, wie schnell aus einem Spaß-Werzeug, das keine Augen konnte und sechs Finger pro Hand erstellt hat, in kaum einem Jahr ein Werkzeug wurde, das täuschend echte Bilder erstellen kann. Und auch beim erstellen und debuggen von Code sind die aktuell verfügbaren Modelle mittlerweile wirklich gut.
Ob das heißt, das wir kurz vor der AGI stehen?
Keine Ahnung.

Aber die neue Preisgestaltung seit Juni jetzt sehr deutlich, dass man sich in Zukunft KI vor allem leisten können muss... Das gilt natürlich auch die die dazugehörige Hardware.

Ich mehr mit keine Sorgen um Sachen, die ich nicht beeinflussen kann. Ich versuchs zumindest.

 

[1776]

Langsam nervt diese ungeprüfte Übernahme von PR-Schrott der AI-Anbieter mich gewaltig.

Ebenso.
Koennte man nicht Tags oder so einfuehren?
Damit man alle """News""" ueber KI sich einfach nicht anzeigen lassen kann?

 

[JustAnotherUser]

Ach komm, die kopieren nur Anthropics Marketing ala "verboten gut". Nervig durchsichtig. Und dennoch wird es funktionieren.

 

[targas]

ob Marketing oder nicht: irgendwann ist das neue Virus jenes, welches jegliche IT lahm legen wird - weltweit, jedes Gerät. Dann verlangt die KI irgendetwas abstruses von der menschheit, um alles wieder freizuschalten. Nicht heute, nicht morgen, aber irgendwann wird es wohl so kommen. Irre Zeiten

 

[CtrlFreak]

Bin mal gespannt wie lang sie das immer wieder sagen und releasen und nichts passiert haha.

Bin gespannt was passiert wenn es passiert.