News „Unverantwortlich“: Jensen Huang wirft KI-Warnern Panikmache vor

Nvidia ist so oder so fein raus. Es sind am Ende ja nicht die Beschleuniger sondern die Modelle die die Menschheit ausgerottet haben.

Die Bösen sind ja auch nicht die die Waffen und Munition herstellen sondern die Menschen die sie benutzen.
Also hört auf KI zu nutzen!!!
 
Zuletzt bearbeitet:
Ich glaube hier sollte man erstmal das Original anhören bevor man über Jensen herfällt ^^

Er hat nicht gesagt, dass KI zu 0 Prozent eine Gefahr für die Menschheit ist. Die Aussage bezog sich konkret auf diese Doomsday Prognose, dass KI bis etwa 2030 das Ende der Menschheit verursachen könnte.
Direkt davor sagt er sogar: „Their concern is not wrong.“ Die Sorge an sich weist er also nicht zurück. Er spricht auch davon, mehr Forschung und Compute in AI Safety zu stecken. Im Artikel selbst wird es später sogar genauer mit „Null Prozent Chance, dass KI das Ende der Welt bedeuten würde“.

Das ist schon etwas anderes als „KI bedroht die Menschheit zu 0 Prozent“.

Gerade bei so einem Thema finde ich das ehrlich gesagt etwas schwach. Ein Satz weniger Drama im Aufmacher und die Diskussion würde vermutlich komplett anders aussehen. 😉
 
  • Gefällt mir
Reaktionen: Rondos, nutrix und Meliodas2077
@Lora Leider legt sich jeder dieses Thema so zurecht wie man will. Bei Terminator sollte man sich nicht auf das Setting beschränken sondern auf das was der Film transportiert.

Sprich: Menschen kommen durch unbekannte autonome KI zu Schaden und Menschen können durch KI ersetzt werden.

Bin trotzdem für eine Weiterentwicklung insbesondere dem Militär zur Verteidigung aber ich glaube es ist übertrieben wie jetzt alles sich in sämtliche Bereiche ausbreitet, die eigentlich nicht so schnell entwickelt werden müssen.
 
  • Gefällt mir
Reaktionen: Lora
fox40phil schrieb:
Mit dem Geld was er scheffelt wird er uns vllt noch überdauern 😂… dank Ki. Oder sich in den Weltraum absetzen, wenn hier unten die Hütte brennt.
Wie hieß der Typ aus Horizon Zero Dawn nochmal?

Schon peinlich und erschreckend wie die Tech Bros agieren, ohne Rücksicht auf irgendwas.
 
  • Gefällt mir
Reaktionen: fox40phil
nutrix schrieb:
Mir gings darum zu zeigen, daß sie nicht so weiten hinten dran sind, wie man glaubt.
"Weit" ist relativ, aber die chinesischen Modelle sind immer einen Schritt hinten dran. Und wenn wir potentiell katastrophalen Folgen reden interessiert eben nur die Frontier-Forschung.
 
BeowulfAgate schrieb:
Wie hieß der Typ aus Horizon Zero Dawn nochmal?

Schon peinlich und erschreckend wie die Tech Bros agieren, ohne Rücksicht auf irgendwas.

Nun die Manager interessiert auch nicht wirklich was mit der Welt passiert.
Die Interessiert nur " Der eigene Geldbeutel" und das die " Aktionäre" zufrieden sind.
Sie sagen sich selbst " Mit einem Geld kann ich mir auch alles kaufen was ich und meine Familie brauchen um zu überleben, selbst wenn wir dann die Letzten auf der Welt sind".
 
  • Gefällt mir
Reaktionen: BeowulfAgate
hab mal irgendwo gelesen, dass die Furcht des Menschen vor Haiangriffen nicht rational ist und in erster Linie wegen des Films Der Weiße Hai entstanden ist. Hätte es diesen Film nicht gegeben, wäre die Art, wie wir heute im Badeurlaub zum Wasser stehen, ganz anders. Genau so ist es sicher auch wegen Terminator...
 
@linom1 Ne Mr Strohmann. Es gibt Experten, die vor dem Risiko warnen. Was die Leute lieber glauben hat damit nichts zu tun. Dein Vergleich ist keiner
 
Alle sagen das der Huang das natürlich sagt.
Jetzt erzählt mir mal was Huang mit noch mehr Geld kaufen kann... was er jetzt nicht schon kaufen kann...
Seltsame mainstream Aussagen hier..
 
  • Gefällt mir
Reaktionen: Lora
Lora schrieb:
Die Aussage bezog sich konkret auf diese Doomsday Prognose, dass KI bis etwa 2030 das Ende der Menschheit verursachen könnte.
Das Ende der Menschheit klingt erstmal ziemlich weit hergeholt und braucht viele Dinge damit das passiert. So als wenn nur ein Asteroid oder 1000 Atombomben sowas schaffen könnten.
Aber wenn man ein Stück weiterdenkt, dann ist das Ende der Menschheit nur ein kleiner Schritt.

Es reicht schon aus wenn die KI weltweit den Strom ausfallen lässt für 5 Tage. Wie auch immer sie das macht ist egal.

Das könnte in der Tat schon das Ende sein, da der Mensch ohne nicht lebensfähig ist

Oder weltweit gehackte Konten, korumpierte Kreditkarten, keine Chance mehr zu bezahlen. Passwörter gehackt, alles futsch. Sowas reicht schon aus um Massenpanik auszulösen und die gesamte Menschheit ins Chaos zu stürzen. Und völliges Chaos hat schon viele Hochkulturen beendet

Nur das Internet ausfallen lassen über Tage, Wochen. Das reicht um eine Variable so sehr zu verändern dass die Menschen nicht mehr berechenbar sind und irgendwas passiert was nicht verhersehbar ist, so als würde ein Planet plötzlich aus seiner Bahn abhauen und das System stören. Der Mensch als gesamte Spezies hat sich von Dingen so sehr abhängig gemacht dass er empfindlich angreifbar ist
 
Zuletzt bearbeitet:
Also, dass ein LLM plötzlich ein Bewusstsein entwickelt und die Menschheit auslöscht ist von der Wahrscheinlichkeit definitiv 0 Prozent und wer etwas anderes behauptet, der hat zu viel Perry Rhodan gelesen.

Allerdings ist die Möglichkeit, dass wirklich fortschrittliche LLMs eine echte(!) KI entwickeln und programmieren definitiv nicht 0 Prozent, denn wir wissen einfach nicht wie schwer oder leicht es für sie sein würde dies zu tun.
 
shortex schrieb:
Das ist aber keine KI, die die Kontrolle über irgendwas übernommen und dadurch Gefahren ausgelöst hätte. Schlechte Zielplanung schafft das Pentagon ganz ohne KI auch schon, erwähnt sei die zerstörte Schule im Iran, deren Gebäude früher Teil eines Stützpunkts war..
 
  • Gefällt mir
Reaktionen: nutrix
Ich habe immer gedacht (als Kind) wir werden eine "KI" entwickeln welche eine ähnliche Rolle einnimmt wie bei Star Trek. Ein Helfer, welcher absolut loyal ist und eigentlich nur unterstüzend und ausführend eingreift wo es von Nöten ist. Nicht aber die menschliche Kreativität (Kunst) und die fundamentale Sinnhaftigkeit des eigenen Daseins in Frage stellt (Sinn des Lebens).

Mittlerweile bin ich mir nicht mehr sicher, dass sich dieser Traum der Menschheit in diese Richtung entwickelt. Ein Konflikt zwischen Mensch und Maschine sehe ich dann, wenn die Maschine ein vergleichbares "SelbstBewußtsein" entwickelt hat und dem dleichen Prinzip unterliegt wie der Mensch, in Form des "struggle for existence".
Es ist halt die Frage wie die KI dann reagiert, wenn wir ein direkter Konkurrent bei entsprechenden Ressourcen wie Wasser und Energie etc. sind. Diese Möglichkeit kann halt noch keiner absehen. Geht man aber vom evolutionären Druck aus und überträgt dieses Prinzip auch auf andere Daseinsformen wird es spannend. Niemand kann bestätigen ob dieses Prinzip nur auf der Erde Gültigkeit hat oder ob es ein kosmisches Prinzip ist. Daher bin auch sehr skeptisch, wenn es um den von manchen herbeigesehnten sogenannten "Erstkontakt" geht.
 
Wenn Dir jmd., fast egal bei welchem Thema mit 0% oder 100% Chancen um die Ecke kommt, dann sollte man sich immer direkt umdrehen und gehen...
 
  • Gefällt mir
Reaktionen: Pingui
shortex schrieb:
Das ist aber auch noch was ganz anderes, als wenn eine KI selbst etwas auslöst. Fragwürdige Quellen sind immer ein Problem, und es obliegt den Verantwortlichen, diese vorher zu prüfen. Man betrachte das Beispiel 2. Irakkrieg, der an sich nur eine Farce mit gefälschten Beweisen incl. peinlichem Auftritt bei der UNO war.
 
Salamimander schrieb:
@linom1 Ne Mr Strohmann. Es gibt Experten, die vor dem Risiko warnen. Was die Leute lieber glauben hat damit nichts zu tun. Dein Vergleich ist keiner
Nachdem wir unsere einst starke Volkswirtschaft gegen die Wand gefahren haben aufgrund Panikmache sog. „Experten“, sollte dir klar sein, dass jeder Experte der sich öffentlich zu Wort meidet, eine eigene Agenda hat.
 
Zurück
Oben