News Microsoft-CEO Nadella: Superintelligenz muss unter menschlicher Kontrolle ste­hen

[mischaef]

In den letzten Tagen warnte Anthropic-Chef Dario Amodei vor Agenten-Schwärmen, OpenAI sagte angesichts der aktuellen Krise bei der KI-Sicherheit den geplanten Börsengang ab. Nun fordert auch Microsoft-Chef Satya Nadella ein bewusstes und kontrolliertes Entwicklungstempo auf dem Weg zu einer möglichen KI-Superintelligenz.

Zur News: Microsoft-CEO Nadella: Superintelligenz muss unter menschlicher Kontrolle ste­hen

 

[Blaexe]

Das ist natürlich leichter gesagt als getan - und niemand weiß ob es überhaupt möglich ist. Aber die grundsätzliche Richtung ist sicher korrekt und wichtig.

Das größte Problem hier dürfte das Rennen mit China sein. Irgendwie müssen die Frontier Labs es hin bekommen sicher (und daher auch langsamer) den Fortschritt weiter zu entwickeln und gleichzeitig den Vorsprung ggü. China zu bewahren. Denn seien wir ehrlich: Eine internationale Einigung (die auch in der Praxis so umgesetzt wird), wird es nicht geben.

Unter Umständen (und basierend auf dem was man so mitbekommt) haben wir noch 1, vielleicht 2 Jahre Zeit um die Weichen korrekt zu stellen. Ich bin wenig optimistisch aber schaun' mer mal.

Eine mMn plausible und gut verständliche Erklärung warum die Diskussion gerade so intensiv geführt wird findet man hier:

https://x.com/MajmudarAdam/status/2098881885200081234

 

[Termy]

that if the AI we build is not helping humanity and under human control, it's not worth pursuing

Lustig - wenn aber Konzerne (wie z.b. Microslop ) unmenschlich agieren und der Menschheit und Menschlichkeit eher ab- als zuträglich sind, dann ist das ok?

Also nicht, dass ich der Aussage nicht zustimmen würde - aber aus diesem Munde ist es schon etwas absurd...

 

[Otsy]

Superintelligenz muss unter menschlicher Kontrolle stehen

Vom polemischen PR-Begriff 'Superintelligenz' einmal abgesehen: In welch dümmst-anzunehmender Realität leben wir denn bitte, dass man sowas explizit aussprechen muss?

Was kommt als nächstes? 'Zum Pinkeln muss der Toilettensitzdeckel hochgeklappt sein.'?

 

[Blackhorse79]

Also aufs Wort von Microsoft gebe ich ja nun wirklich absolut gar nichts. Da ist ja der Orangene vertrauenswürdiger.

Das diese ganzen freakigen US-Konzerne allesamt so tun, als hätten sie nie mit der US-Regierung gemeinsame, hochgefährliche KI-Entwicklungen vorgenommen, sagt ja schon aus wie viel Wahrheit hier drinsteckt.

Gibt aber Quellen, die die intensive Regierungsarbeit in den Konzernen dazu belegen. Nun liegt der hochgefährliche KI Kram also irgendwo versteckt im Pentagon, beim Militär, der NSA oder sonstwo und Microsoft spielt sich jetzt zum vernunftsgetriebenen Retter der Menschheit auf.

Das ist in der Tat total lächerlich und vollkommen unglaubwürdig.

 

[SoDaTierchen]

Glücklicherweise ist diese Bewegung gerade bei allen KI-Anbietern zu beobachten. Wäre es nur Microsoft, hätte ich vermutlich den Vorwurf erhoben, dass sie die KI-Entwicklung bremsen wollen, weil sie eh hinterherhinken.

In welch dümmst-anzunehmender Realität leben wir denn bitte, dass man sowas explizit aussprechen muss?

Warst du in den letzten Jahrzehnten mal draußen? Das, ebenso wie die Toilettensitzweisheit müssen explizit ausgesprochen werden, so bescheuert es klingt. Das ist selbst hierzulande wahr, aber Microsoft hat seinen Hauptsitz in den USA und sowohl verschiedene Gerichtsurteile als auch die Personalie des amtierenden Präsidenten sollte eigentlich verdeutlichen, dass eine Wahrheit, egal wie banal und notwendig sie ist, leider trotzdem keine Selbstverständlichkeit darstellt. Leider. Wir sind hier in Europa nur minimal besser. Auch leider.

 

[sverebom]

Ebenso entscheidend seien eine klare Ausrichtung auf den Nutzen für die Menschheit und letztlich die menschliche Kontrolle über die Technologie. Eine Superintelligenz, die diesen Anforderungen nicht gerecht wird, sei seiner Auffassung nach „nicht erstrebenswert“.

Die KI-Jünger glauben ja wirklich, dass Sie das Wissen und die Weisheit Gottes erschaffen haben. Dabei rührt KI doch nur die Buchstabensuppe des menschlichen Wissens um, bis sich die Buchstabenudeln ungefähr in einem Muster anordnen, dass einem vorgegebenen Zielwert nahe kommt.

 

[R4nd0]

Vom polemischen PR-Begriff 'Superintelligenz' einmal abgesehen: In welch dümmst-anzunehmender Realität leben wir denn bitte, dass man sowas explizit aussprechen muss?

Was kommt als nächstes? 'Zum Pinkeln muss der Toilettensitzdeckel hochgeklappt sein.'?

Wenn die KI wirklich so Intelligent sein wird dann kann die niemals unter der Kontrolle des Menschen stehen. Wie auch? Wie lange brauchst du um in einem Kindergarten in dem 6-Jährige das sagen haben die Kontrolle zu übernehmen?

 

[Mimir]

Mein Tipp: Die ganzen Meldungen von wegen "KI bricht aus und ist gefährlich" sind wahrscheinlich weniger Marketing sondern vielleicht ein Vorwand, um dafür öffentlich zu sensibilisieren in der Hinsicht, dass eben auch China, Russland und allgemein Terroristische Organisationen KI erforschen und missbrauchen werden.

Kann mir schon vorstellen, dass denen der Arsch auf Grundeis geht, da sie wissen, was in 3, 5 oder 10 Jahren möglich sein wird.

Und mit Sicherheit werden sie die Entwicklung nicht verlangsamen. Trump meinte doch immer wer bei KI das Rennen macht hat "gewonnen".

Ich glaub hier gehts schon lange nicht mehr um Geld verdienen und profitablität, sondern darum, sich technologisch behaupten zu können. KI kann den technischen Fortschritt in vielen Bereichen unterstützen oder stark beschleunigen. Lass das mal den Feind machen, während du zusiehst und du bist schneller weg vom Fenster als du AI sagen kannst.

Dabei rührt KI doch nur die Buchstabensuppe des menschlichen Wissens um, bis sich die Buchstabenudeln ungefähr in einem Muster anordnen, dass einem vorgegebenen Zielwert nahe kommt.

Ein LLM kann sprache oder code ausgeben und als agentic ai mit vollzugriff auf einen PC auch alles damit anstellen was ein Mensch tun könnte.

Und jetzt sag mir was man als Mensch heutzutage braucht, um irgendwas wichtiges tun zu können... richtig einen PC um digitale systeme zu füttern und Sprache.


Solange du nur einen Chatbot in einem Chatfenster nutzt kann er wenig anstellen außer dich mit seinem Text zu beeinflussen.

Sobald du dem LLM aber eine Schnittstelle gibst um mit Systemen zu interagieren (mit textbefehlen oder code) hast du die Büchse der Pandora geöffnet. Ab diesem Zeitpunk ist wirklich alles möglich, wenn du der KI entsprechende Ziele und genug Rechenkapazitäten gibst. Sie kann jeden Onlinedienst der Welt nutzen, und alles Wissen im Netz ausfindig machen.

Man muss halt auch bedenken, dass OpenAI und co solchen Modellen nahezu unendlich viel Kontextspeicher und Rechenkapazitäten fürs "Nachdenken" (Reasoning) geben können. Ein Model das man für nen zwanni im Monat buchen kann, kann das natürlich nicht. Das muss so restriktiv laufen, damit Millionen Nutzer gleichzeitig den Dienst nutzen können. Das sollte man auch immer im Hinterkopf behalten.

 

[Matziking]

Da die KI schon mehrfach medienwirksam ausgebrochen ist, will ich gar nicht wissen, wie viele Geräte schon als Wirt infiziert wurden und sich die KI nun stetig ohne Einsicht und Regulierung weiter "verbessert".

 

[Blaexe]

@Matziking Das kann heute technisch noch nicht passieren. Die Modelle sind starr. Noch.

Diese ganze Diskussion kommt aktuell auf weil in den Labs erste Anzeichen von RSI bzw ein realer Weg dahin gesehen wird, innerhalb relativ kurzer Zeit. OpenAI will beispielsweise bis in März 28 einen autonomen, vollständigen KI Forscher ermöglichen.

Die "Angst" kommt daher dass niemand abschätzen kann was passiert wenn wir neue, verbesserte Modelle nicht mehr alle paar Monate sondern in wenigen Wochen und dann innerhalb von Tagen bekommen.

 

[hmmm_napfig]

Wann entgleist der Hypetrain endlich bitte, wann?!?!? Habe an der Arbeit zwei KIs zur Verfügung, nutze zum Abgleich auch Gemini. Bei der Recherche in rechtlichen Sachen halluzinieren sich die KIs regelmäßig so einen Müll, es nervt die meiste Zeit. Wenn man sich die Texte der KIs durchliest merkt man z.B., dass diese (natürlich) überhaupt nicht verstehen, wie ein Urteil aufgebaut ist. Also Intelligenz nullkommanull. Für 0815-Sachverhalte und Textgenerierung ist es hilfreich, mehr auch nicht.

 

[Sahnejoghurt]

Na dann bin ich ja beruhigt, wird sicher so gut funktionieren, wie der andere Kram auf dieser Murmel unter menschlicher Kontrolle.

 

[LamaMitHut]

Wenn die KI wirklich so Intelligent sein wird dann kann die niemals unter der Kontrolle des Menschen stehen. Wie auch? Wie lange brauchst du um in einem Kindergarten in dem 6-Jährige das sagen haben die Kontrolle zu übernehmen?

Wir werden ja auch von Typen wie Trump, Putin oder Merz regiert, obwohl es Organisationen wie Mensa gibt.

 

[MorbusGon]

Mhm, unter wessen Kontrolle? Die, des US-Präsidenten?

 

[G00fY]

Dabei rührt KI doch nur die Buchstabensuppe des menschlichen Wissens um, bis sich die Buchstabenudeln ungefähr in einem Muster anordnen, dass einem vorgegebenen Zielwert nahe kommt.

Das ist die vereinfachte Erklärung von generativer KI (LLMs). Inzwischen geht's aber um agentische KI (Agentic AI) und da sind LLMs nur eine Ebene.

Wer immer noch KI mit Buchstaben-Raten gleichsetzt hat entweder zwei Jahre KI Entwicklung verschlafen oder nutzt KI nur zum E-Mails verfassen.

 

[Micha-]

Nicht die AI ist das Problem, sondern die User. IN den letzten Tagen gab es mehrfach Berichte, das man Claude benutzt hat um Waffensystem zu optimieren (Russland, Huthi, China). Das die System unter der Kontrolle von Menschen stehen beruhigt mich nicht.

 

[Pestplatte]

Bevor die von künstlicher SUPERintelligenz schwärmen und spekulieren, brauchen wir erstmal ne brauchbare Intelligenz. Aber als Gegenargument muss man ja befürchten, dass sie selbst die nicht unter Kontrolle haben.
Für mich als Laie haben die ganzen LLMs nichts mit Intelligenz und schon gar nichts mit Nutzen für meinen Alltag zu tun.

 

[gokkel]

Naja, unter wessen Kontrolle konkret? Das halte ich Stand heute für gefährlicher als alles andere.

Schon heute vertritt KI offensichtlich bestimmte politische Interessen über andere.

 

[nn|none]

"Virtue signalling"