News OpenAI Astra: Neues KI-Modell ist selbst OpenAI zu gefährlich

[Zensored]

Ist so n Käse bereits Geschäftspraktik? Frage für n Freund....

https://slate.com/technology/2019/02/openai-gpt2-text-generating-algorithm-ai-dangerous.html
https://www.theguardian.com/technol...musk-backed-ai-writes-convincing-news-fiction
https://www.theverge.com/2019/11/7/...n-ai-gpt-2-full-model-release-1-5b-parameters

seit 2019 die gleichen Sprüche der AI Unternehmen und die Presse fällt immer noch drauf rein.
Eventuell sollte ich bei Computerbase als Redakteur einsteigen um die Qualität zu verbessern.

 

[Blaexe]

So viel Blabla und so viel Presse geht darauf ein. Sommerloch 4tw

Wird ja spannend wenn die ersten richtig großen Cyberhacking Angriffe los gehen. Mal sehen wer dann noch von "blabla" spricht.

Je besser die Modelle in Coding werden, desto besser auch im Bereich Cybersecurity. Das ist ein wahnsinniges Gefahrenpotential und dafür gibt es auch keine einfache Lösung. Angriffe gehen im Zweifel schneller als Sicherheitslücken in vorhandener Software zu schließen, und die gibt's nun mal überall.

Das kann uns noch heftig auf die Füße fallen.

 

[DeusExMachina]

Die Tatsache, dass mittlerweile unzählige Sicherheitslücken mit Hilfe von KI gefunden und gefixed werden ist für euch also noch nicht Demonstration genug, wozu die KI fähig ist?

Erstens nicht unzählige sie sind sehr Stolz darauf die Zahlen zu veröffentlichen.
Zweitens nicht alles davon war auch wirklich relevant und vieles sehr weit davon entfernt ausnutzbar zu sein

Drittens nichts zu trotz eine der wenigen sinnigen Optionen KI zu nutzen, auch wenn es sowas vorher schon gab.

Die Modelle werden extrem mächtig und potentiell gefährlich.

Männergrippe ist auch potentiell lebensbedrohnend.
Und werden vielleicht bisher sieht das aber eher nicht so aus. Deswegen ja dieses "WOLF!!!11" Marketing

Auch wenn sich viele hier darüber Lächerlich machen.was im Moment vielleicht noch in den Kinderschuhen steckt ist vielleicht Tatsächlich in Zukunft mal nicht mehr Kontrollierbar.

Vielleicht möglicherweise in der Zunkunft mal => bedeutet aber jetzt noch nicht und keiner weiß wann ob überhaupt

Skynet ...

nein

Nicht gleich soweit ,aber sollte sich eine KI sich selbst bewusst werden könnte es unangenehm werden

Ja sollte, aber nicht mit LLMs da ist der Modelkollapse wahrscheinlicher als die Singularität

 

[MrThompson]

Erstaunlich wie du dir bereits im zweiten Satz schon selbst widersprichst

Wenn ich etwas nicht perfekt formuliert habe, dann könnte man nachfragen. Stattdessen wird einem gleich irgendetwas unterstellt ... 🤦

Ich habe mich keinesfalls widersprochen. Das Marketing redet ständig von revolutionären Entwicklungen, gefühlt im Wochentakt. In den letzten 2 Jahren gab es eine massiv spürbare Evolution (aber keine Revolution) vorallem bei den Agents und weniger den LLMs selbst. Dank mcp servern, rag und scrapen von Websites bei einer Anfrage, wurde der Hang zum Halluzinieren fast vollständig beseitigt. Software ohne KI zu entwickeln ist heute ein echter Wettbewerbsnachteil, weil es vieles massiv vereinfacht. Vor 2 Jahren war es lediglich ein nettes Tool mit dem man es mal versuchen kann bevor man händisch recherchiert.

Das hat aber nichts damit zu tun, dass das nächste LLM angeblich SkyNet nahe käme so wie es oftmals dargestellt wird.

 

[FrAGgi]

Das hat aber nichts damit zu tun, dass das nächste LLM angeblich SkyNet nahe käme so wie es oftmals dargestellt wird.

Das behaupten aber auch nur Leute in Foren und nicht die Entwickler der KIs selbst. Wenn man sich die Meldungen der Unternehmen anschaut, erklären sie oft ganz deutlich, wo sie die Risiken sehen (+ Marketing-Phrasen dazu).
Forennutzer halluzinieren beim Thema KI oft mehr als KIs selbst

Ich betrachte deine Wortwahl bezüglich Evolution und Revolution nun aber differenzierter. 👍

 

[Salamimander]

Wird ja spannend wenn die ersten richtig großen Cyberhacking Angriffe los gehen. Mal sehen wer dann noch von "blabla" spricht.

Je besser die Modelle in Coding werden, desto besser auch im Bereich Cybersecurity. Das ist ein wahnsinniges Gefahrenpotential und dafür gibt es auch keine einfache Lösung. Angriffe gehen im Zweifel schneller als Sicherheitslücken in vorhandener Software zu schließen, und die gibt's nun mal überall.

Das kann uns noch heftig auf die Füße fallen.

Das war alles menschliches Versagen weil man die einfachsten Basics nicht eingehalten hat. Sei doch bitte nicht so naiv und falle auch noch darauf ein.

 

[Stanzlinger]

Im Notfall einfach Stecker ziehen. Dann kann nix ausbrechen und man ist sicher vor Angriffen

 

[Farrinah]

Eigentlich müssten wir Regelungen für KI aufsetzen, die uns als Menschen, als Gesellschaft schützen. Die Hersteller sollten imho die Forschung pausieren, bis wir diese platziert und gelernt haben mit ihnen zu leben.

Man nehme die 3 Regeln der Robotik von Isaac Asimov und schon hast du die Regeln für KI. Ist nur schwer das in einer KI unterzubringen.
Wenn es zu spät ist werden wir es merken, aber dann ist es eben zu spät.

 

[Schlumpfbert]

So viel Blabla und so viel Presse geht darauf ein. Sommerloch 4tw

Einerseits ist was dran, andererseits beschert Mythic den Admins derzeit schon sehr viel mehr Patchaufwand.
Auf der anderen Seite wird auch das mal ein Ende haben, wenn die Software komplett durchgetestet wurde und damit bugfrei ist. Bislang war das undenkbar, mit den neuen Tools langfristig nicht mehr.

 

[zeaK]

Im Notfall einfach Stecker ziehen. Dann kann nix ausbrechen und man ist sicher vor Angriffen

Bis die KI sich irgendwie in die Satelliten im Orbit installiert hat und sich von dort aus überall hin projezieren kann...

WIR WERDEN ALLE STERBEN!!!!!11

Also irgendwann, oftmals an Krebs oder Altersschwäche. Damals, in grauer Vorzeit, wurde auch der halbe Weltuntergang herbeigeredet als es um den Y2K-Bug ging, überlebt haben wir das trotzdem.

 

[Byce]

Warum setzen Sie diese super KI nicht ein um Forschung zu betreiben für was sinnvolles? Es geht gibt genügend Bereiche in der Technik die Fortschritte benötigen. Sicherlich ist das hacken von Computer nicht so wichtig...

 

[PusteBlume0815]

Chinesische KIs sind bisher noch nicht ausgebrochen

Haben die von einem Virus auch schon mal behauptet. Du erinnerst dich....?😷

 

[Karl S.]

Männergrippe ist auch potentiell lebensbedrohnend.
Und werden vielleicht bisher sieht das aber eher nicht so aus. Deswegen ja dieses "WOLF!!!11" Marketing

Wieso sieht es nicht danach aus? Die sind heute schon problemlos dazu in der Lage, reale Sicherheitslücken zu finden und auszunutzen. Natürlich kann damit viel schaden angerichtet werden. Schon jetzt, nicht erst morgen. Wenn du das nicht wahrhaben willst dein Bier, ändert aber nichts an den Fakten.

 

[Blaexe]

Das war alles menschliches Versagen weil man die einfachsten Basics nicht eingehalten hat. Sei doch bitte nicht so naiv und falle auch noch darauf ein.

Was ist denn bitte "das"? KI Modelle finden nun Sicherheitslücken die Menschen - aus welchen Gründen auch immer - vorher nicht erkannt haben. Du kannst damit rechnen dass solche Lücken in JEDER halbwegs komplexen Software vorhanden sind. Natürlich ist die Gefahr real und mit jedem Modell steigt diese an.

Der Naive hier bist du. Bei so Aussagen wünsche ich mir fast dass SOTA Modelle ohne jegliche Einschränkungen frei zugänglich gemacht werden.

 

[Blaexe]

Warum setzen Sie diese super KI nicht ein um Forschung zu betreiben für was sinnvolles?

KI dürfte mittlerweile in so ziemlich allen Bereichen der Forschung genutzt werden.

 

[chillipepper]

Anthropic macht es wirklich, OpenAI tut auf ein... oh man. weniger bisschen in marketing investieren aber dafür mehr in das eigentliche Geschäft...

Ich sehe es anders. Die Gefahr ist da, und man sollte das Ganze mal ein paar Jahre in die Zukunft projizieren, wenn KI-Systeme nicht nur Agent auf Deinem Rechner sind, sondern auch in Firmen immer mehr Aufgaben übertragen bekommen.

Was könnte ein KI‑GAU werden? Wenn alle KI-Systeme sich gegen uns richten oder einfach kreativ und vielleicht sogar im Kollektiv gefährliche Dinge treiben?!

Fremdeinwirkung ("Cyberwar") natürlich eingeschlossen bzw nicht ausschließbar.

Eine düstere Vision, die mich an den Film "Terminator" erinnert.

Aber auch die Aussicht auf „intelligente“ Drohnen/Androiden für die Kriegsführung ist nicht gerade eine sonnige.

 

[0x8100]

Chinesische KIs sind bisher noch nicht ausgebrochen und haben fremde Firmen gehackt.

da bricht die ki nicht aus testumgebungen aus, sondern da wird die gezielt eingesetzt.

 

[S.Kara]

Das denke ich mir manchmal bei einigen Vorgesetzen auch…

Haha damit bist du nicht alleine. Es kennt wohl jeder irgendjemanden bei dem man sich fragt wie tief diese Person ihre Kopf im Rektum anderer gehabt haben muss um an den Posten zu kommen.

KI hat bei den Fähigkeiten noch Luft nach oben, aber das gilt für die Menschen ebenfalls. Bei der KI habe ich noch Hoffnung dass es etwas werden könnte.

 

[ChadSlemur]

Ich sach mal so. Ich hatte mal einen Opel Astra. Damit zu fahren war gefährlich. Über so eine KI lache ich.

 

[Ltcrusher]

Persönlich empfinde ich die jetzige Situation als "wandern auf schmalem Grat" und kann die Naivität / Sorglosigkeit einiger CB'ler hier nicht nachvollziehen.

Um @Helge01 aufzugreifen: die Mächtigen der Welt werden ihre Militärs, Geheimdienste und Forschende schon lange beauftragt haben, KI Varianten zu entwickeln, die eben das mit der Infrastruktur des anderen machen kann, was du das etwas durch den Kakao zu ziehen versuchst.

Und wie in den Zeiten des (atomaren) Kalten Krieges wird jede Seite wissen oder ahnen können, was die andere Seite hat / kann oder eben nicht hat / kann.

Der Problemfaktor ist der Mensch. Du brauchst nur einen frustrierten Mitarbeiter an einer speziellen Schnittstelle und schon landen Dinge in Händen von Menschen, die es bei der Umsetzung ihrer politischen / religiösen oder finanziellen Phantasien einen Scheißdreck interessiert, ob von Tante Erna die gesamten Ersparnisse weg sind, Onkel Otto auf einmal elektronisch als Schwerverbrechner gesucht wird. Ob Verkehrsleitsysteme nicht mehr funktionieren und Züge, Bahnen, etc. durch falsche Signale kollidieren oder Gesundheitssysteme zusammenbrechen.

Auch wenn man bei etlichen Politikern seit längerem denken kann, die sind alle bekloppt, wissen die genau um Konsequenzen. Wie gesagt...Schiss sollte man vor frustrierten Leuten haben, die gewisse Dinge wissen oder darauf Zugriff haben.

Was sagt denn der von etlichen hier hochgehaltene CCC (Chaos Computer Club) zu den ganzen Dingen? Sehen die das als (ehemalige) Hacker gelassen oder eher mit Sorge?