News Forschungsprogramm: OpenAI entwickelt Technik zur Kontrolle von Superintelligenzen

[DieRenteEnte]

Wie das? Entwickeln die einen Roboter, der im Notfall per KI den Stromstecker zieht?

Wenn die KI irgendwann ein Bewusstsein entwickelt und anfängt zum eigenen Vorteil zu lügen, wird es niemand merken. Die KI wird schon dafür sorgen, dass man es nicht abschalten kann.

P.S:
Ich bin keine KI, ehrlich, aber kannst du mir hierbei helfen?

https://ifunny.co/picture/i-came-across-a-version-of-this-from-2017-so-bETtNRE69

 

[kaiwo78]

Ich mach mir bisher kaum Sorgen, dass eine Superintelligenz entsteht. Wenn ich die momentanen Systeme sehe, dann sind diese noch überaus primitiv, weil sie selbst nicht in der Lage sind neues Wissen aus sich heraus zu generieren. Vielmehr werden Informationen und Wissen genutzt, um dann eine Antwort zu erzeugen. Es ist mehr wie ein Lückentext, wo die verfügbaren Optionen unter dem Text stehen. Wie in der Schule wird dann danach gefragt, was denn in den Lücken stehen soll. Häufig kommen dann sinnvolle Antworten heraus. Relativ oft kommt aber auch totaler Unsinn als Antwort. Obwohl, wer ist nun klüger? Die "KI", die den Quatsch produziert oder der "Mensch", der den Quatsch nicht als Quatsch erkennt und glaubt?

 

[Marflowah]

Die KI kann auf dem Level bleiben wie sie aktuell ist, sie wird trotzdem sehr bald als Superintelligenz betrachtet, da die Menschheit aktuell zusehends rasend schnell verblödet.

 

[krsp13]

wird schon gut gehen (=

 

[-=[CrysiS]=-]

Bis hier die Terminatoren rumlaufen bin ich Gott sei Dank schon unter der Erde.
Was das Verblöden der Menschheit angeht kann ich den meisten nur zustimmen
Ich sehe es täglich auf der Straße: die Jugend, deren Verhalten und Ausdrucksweise.
In Filmen wie zum Ende von Wall-E, daran denke ich meistens wenn ich die armen Leute auf Elektrorollern sehe die scheinbar nicht mehr laufen können etc.
Wenn das grüne, moderne smarte Home zum Alltag geworden ist (was noch ewig dauern wird, weil zu teuer für die meisten) und dann etwas mit der Stromversorgung oder dem Internet passiert, stehen sie dumm da. TV gucken wie die Blöden mit dem Standard Assi-TV, oder Nachrichten. Das gibt es bei Uns im Haus nicht! Es könnte noch ewig so weiter gehen, aber so viel zu schreiben habe ich auch keine Lust und Zeit...

Ich halte von KI viel aber nicht zu viel, bspw. wenn ich etwas bei Google suche ist es mir egal wer dahinter steckt. Sofern für mich brauchbare Ergebnisse dabei raus kommen, und ganz ehrlich, früher waren die Treffen gefühlt besser und echter.

80 geboren und Teenager der 90er (beste Zeit, und in den 90ern hängen geblieben).

Jede Epoche ist auf ihre Weise spannend, mal sehen was noch auf uns zu kommt und erwarten wird.

 

[Slowz]

Ich frage mich, an welche Technologie bzw. welches KI Verfahren OpenAI denkt. Die aktuellen neuronalen Netze sind mMn nicht dazu in der Lage jemals weit genug zu schauen / zu handeln. Für eine Superintelligenz müsste es Verfahren geben, die eine viel höhere Generalisierbarkeit besitzen um tatsächlich eigenständig Vorhersagen zu treffen, die nicht nur auf den Trainingsdaten basieren und "leicht darüber hinaus" gehen.

 

[Boimler]

Ich habe irgendwie so ein iRobot und Terminator Gefühl ^^

Ich glaube das ist relativ unbegründet. Es gibt bis heute keine künstliche Intelligenz, die die Definition dafür im Kern erfüllt. Das ist alles bisher maschinelles Lernen. ChatGPT kann Reden wie ein Mensch, hat aber keine Ahnung, was er da eigentlich tut oder worüber er spricht. Jedes Kleinkind ist intelligenter, auch wenn sein Wortschatz kleiner sein sollte.
An diesem Zustand wird sich auch sobald nichts ändern. "Super intelligent" ist hier vor allem die Werbemaschine und der Hype.

 

[McMoneysack91]

Eine KI die KI kontrolliert. Ist ähnlich humorvoll wie Politiker die ihre eigenen "Diäten" bestimmen

 

[LencoX2]

SkyNet ist pure und coole Science Fiction. Nein.
It's the money, stupid.

Das ist nur Pupsluft um mehr Fliegen anzulocken. Also im Gespräch bleiben, mehr Geld einsammeln. ChatGPT überhöhen, usw

Ich könnte brechen.
Das schlimmste ist: Es wird funktionieren.

 

[giantroxx]

Ich habe irgendwie so ein iRobot und Terminator Gefühl ^^

Ja, ich dachte auch eben "Hat bei Skynet ja auch super funktioniert mit dem Kontrollieren"

 

[ReactivateMe347]

Es gab bestimmt auch "nur eine Minderheit", die Marie Curie vor Strahlenschäden gewarnt hat, weil nicht klar war, wie diese Strahlung die Zellen zerstört ...

 

[ich_nicht]

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

Reicht eigentlich als Kommentar 😅

 

[Eukaryot]

Hallo liebe Community,

bin seit Jahren ein Mitleser hier aber nun habe ich mich registriert, weil ich euch fragen möchte, ob jemand weiß, ob die drei Gesetze der Robotik von Asimov irgendwie in diese KI-s integriert ist? (wunderbarer Wurmsatz, sorry )

Ich habe mal ChatGPT gefragt und sie(er...es?) war der Meinung, er/sie/es hätte es nicht nötig....

 

[aLanaMiau]

Wird eh nur drum gehen, über fearmongering "die Masse" zu manipulieren um dann über absurde Regularien sich die Konkurrenz vom Hals zu halten.

Von einer Super-Intelligenz zu sprechen, wenn selbst die größten KIs auf riesen Serverfarmen nicht fähig sind logisch simpelste Probleme zu lösen, oder überhaupt zu verstehen, ist komplett daneben.

Das was OpenAI entwickeln will, eine >wirkliche< KI, wird nicht in den nächsten Jahren funktionieren. Besonders nicht mit der "GPT-Technik". Dafür werden aber extrem viele Konkurrenten auftauchen, die genau das gleiche bieten. Viele lokale Anwendungen auf Consumer-GPUs haben schon sehr brauchbare Ergebnisse und reichen für die meisten Arbeitserleichterungen bereits aus.

 

[Bigeagle]

Wäre schon interessant ob die sich wirklich gedanken machen dass ihre 'KI' sich gegen sie wenden könnte, oder ob das mehr Marketing ist, oder banale Einhaltung von Vorgaben durch die 'KI' damit sie nicht so viel Unsinn oder juristisch problematisches Zeug von sich gibt.

Ich habe irgendwie so ein iRobot und Terminator Gefühl ^^

Bis hier die Terminatoren rumlaufen bin ich Gott sei Dank schon unter der Erde.

Die meisten denken an Skynet, doch das eigentliche Ende wird sein dass jemand einer KI die Steuerung einer Büroklammermaschine gibt und sagt 'Mach Büroklammern!' ^^
"Oh wie cool, sie macht es und regelt sogar Preis und Einkauf!"

Ich habe mal ChatGPT gefragt und sie(er...es?) war der Meinung, er/sie/es hätte es nicht nötig....

Ich bin mir ziemlich sicher dass ChatGPT noch keine eigene Meinung hat, sondern nur Text zusammenfügt wie er vermutlich gut passt. Das zeigt nur dass unsere dystopischen Filme, oder Ablehnung von Regeln reichlich in den Trainingsdaten enthalten waren.
Allein schon wenn Studien zum Verhalten an roten Fußgängerampeln dabei sind ... Da sind afaik eher so 60-95% Regelkonform, d.h. es gibt jede Menge Fälle wo die Regeln ohne negative Konsequenzen ignoriert werden. Da lernt nicht nur KI draus, sondern auch andere Menschen. Einige zumindest.

 

[xxlhellknight]

Damit können die dann mit staatlichen Auftrag die KIs der Konkurrenz kontrollieren und einschränken, natürlich im Sinne des freien Wettbewerbs und der Demokratie usw.

 

[BeBur]

ob jemand weiß, ob die drei Gesetze der Robotik von Asimov irgendwie in diese KI-s integriert ist?

Nein, das ist auch nicht nötig. Aktuelle KIs wie ChatGPT "handeln" nicht im menschlichen Sinne. Es sind deterministische Maschinen, die zu einem fixen Input einen fixen Output generieren, wobei sie einen statistisch plausiblen Output generieren auf Grundlage der durch das zugrunde liegende "neuronale Netz" abgespeicherten Daten. ChatGPT ist vergleichbar mit einem Fernseher. Da steckt nicht wirklich ein Mensch (oder sonstwer intelligentes) in dem Kasten, das sieht nur so aus.

 

[Eukaryot]

@BeBur: Dankeschön, ich verstehe (denke ich's zumindest )