TøxicGhøst
Lieutenant Pro
- Registriert
- Mai 2020
- Beiträge
- 1.011
Kaum noch zu ertragen die Lederjacke.
News „Unverantwortlich“: Jensen Huang wirft KI-Warnern Panikmache vor
- Ersteller DennisK.
- Erstellt am
- Zur News: „Unverantwortlich“: Jensen Huang wirft KI-Warnern Panikmache vor
Natürlich ist es "wissenschaftlich nicht belegt", schließlich entwickeln sich die Fähigkeiten schneller als die Wissenschaft irgendwas sinnvoll nachweisen kann. Das ist doch genau das Dilemma.
Glaube ich eher den Safety Forschern oder demjenigen der die Chips herstellt und verkauft? Da ist meine Antwort relativ schnell gefunden.
Glaube ich eher den Safety Forschern oder demjenigen der die Chips herstellt und verkauft? Da ist meine Antwort relativ schnell gefunden.
gartenriese
Lt. Commander Pro
- Registriert
- Feb. 2011
- Beiträge
- 1.937
Könnte auch eine Überschrift vom Postillon sein
just_fre@kin
Rear Admiral
- Registriert
- Jan. 2010
- Beiträge
- 5.933
An ein Weltuntergangsszenario im Sinne der "Terminator"-Filmreihe glauben wohl die Wenigsten. Dazu müssten noch viele weitere Bereiche des täglichen Lebens und sämtliche Wertschöpfungsketten in der gesamten Industrie entsprechend stark von einer leistungsfähigen K.I. UND vollständig autonomen Arbeiten im Sinne von fortschrittlicher Robotik durchzogen sein. Aktuell für mich keine unmittelbare und auch keine mittelbare Gefahr. Wie es hierzu in 20, 30 Jahren aussieht, vermag ich nicht zu beurteilen.
Reale Gefahren wie das Entwickeln eines chemischen/biologischen Kampfstoffes bzw. Virus unter Zuhilfenahme von K.I. oder schwere Eingriffe in das Finanz- und Bankensystem, aber auch eine "feindliche Übernahme" des Internet für noch mehr "Volksverdummung" durch K.I. generierte Inhalte sehe ich als Laie durchaus als möglich an. Die beiden letztgenannten Szenarien könnten zumindest reichen, um große wirtschaftliche Schäden anzurichten und Kriege von Menschen gegen Menschen auszulösen.
Man darf nicht alles schwarz malen, aber man muss jegliche Gefahrenquellen benennen und aktiv dazu forschen.
Reale Gefahren wie das Entwickeln eines chemischen/biologischen Kampfstoffes bzw. Virus unter Zuhilfenahme von K.I. oder schwere Eingriffe in das Finanz- und Bankensystem, aber auch eine "feindliche Übernahme" des Internet für noch mehr "Volksverdummung" durch K.I. generierte Inhalte sehe ich als Laie durchaus als möglich an. Die beiden letztgenannten Szenarien könnten zumindest reichen, um große wirtschaftliche Schäden anzurichten und Kriege von Menschen gegen Menschen auszulösen.
Man darf nicht alles schwarz malen, aber man muss jegliche Gefahrenquellen benennen und aktiv dazu forschen.
- Registriert
- Okt. 2006
- Beiträge
- 5.867
Liest sich irgendwie genau wie "Rüstungsunternehmen nennt Friedensverhandlungen und Waffenruhe unverantwortlich" .... War ja klar dass der größte Profiteur dieser ganzen Ki Geschichte will dass die Unternehmen weiterhin wie blöde und ohne Regularieren und Restriktionen ihr Geld dafür ausgeben, wer hätte es gedacht.
Naja und welchen geistigen Dünnschiss ein Herr Trump von sich gibt kann man ja eh getrost ignorieren, irgendwas gehaltvolles ist von dem in der letzten Dekade nicht abgesondert worden.
Naja und welchen geistigen Dünnschiss ein Herr Trump von sich gibt kann man ja eh getrost ignorieren, irgendwas gehaltvolles ist von dem in der letzten Dekade nicht abgesondert worden.
Zuletzt bearbeitet:
Roy Schwarz
Lieutenant
- Registriert
- Jan. 2011
- Beiträge
- 528
Da hat wohl jemand selbst panik das sein Kartenhaus zusammenbricht und die Investitionen zurück gehen.
Nein!? Doch! Ohh!
Nvidia muss weiter GPUs verkaufen, um die prognostizierten Ziele zu erreichen. Wer dabei unter die Räder kommt ist denen erst mal egal => "KI ist keine Gefahr. Der Ausbau muss weitergehen!"
Die USA brauchen das AI-Wachstum vor allem innenpolitisch, um weiterhin gute Wirtschaftsdaten präsentieren zu können (und der Präsident braucht eine Bauchpinseleinheit) => Trump: "Amerika braucht nur einen Präsidenten mit hohem IQ, um ein Auslöschen der Menschheit durch KI zu verhindern. Mir sei dank, dass wir den haben. Also weiter mit dem KI Feuerwerk. Notfalls per Dekret."
Anthropic und OpenAI haben realisiert, dass die gesteckten Ziele nicht zu erreichen sind und können ihren eigenen Ar*** nur noch retten, wenn sie einen guten Grund finden, die Ziele auch nicht erreichen zu müssen => "Bitte reguliert uns bevor die KI uns alle auslöscht. Wir würden ja gerne weiter ausbauen aber es ist zu gefährlich".
Nvidia muss weiter GPUs verkaufen, um die prognostizierten Ziele zu erreichen. Wer dabei unter die Räder kommt ist denen erst mal egal => "KI ist keine Gefahr. Der Ausbau muss weitergehen!"
Die USA brauchen das AI-Wachstum vor allem innenpolitisch, um weiterhin gute Wirtschaftsdaten präsentieren zu können (und der Präsident braucht eine Bauchpinseleinheit) => Trump: "Amerika braucht nur einen Präsidenten mit hohem IQ, um ein Auslöschen der Menschheit durch KI zu verhindern. Mir sei dank, dass wir den haben. Also weiter mit dem KI Feuerwerk. Notfalls per Dekret."
Anthropic und OpenAI haben realisiert, dass die gesteckten Ziele nicht zu erreichen sind und können ihren eigenen Ar*** nur noch retten, wenn sie einen guten Grund finden, die Ziele auch nicht erreichen zu müssen => "Bitte reguliert uns bevor die KI uns alle auslöscht. Wir würden ja gerne weiter ausbauen aber es ist zu gefährlich".
Cool Master
Fleet Admiral
- Registriert
- Dez. 2005
- Beiträge
- 40.195
Ich kann es auch nicht mehr hören... Das Thema wird aktuell viel zu heiß gekocht. Würde ich die Chance bei 0 sehen? Nein, aber ich würde es auf 0,X sehen. Ja, man kann damit viel böses machen wenn man will. Das ging aber auch schon vor KI.
Auf der einen Seite hat man solche News:
https://www.golem.de/news/kettenhem...hen-beim-erkennen-von-formen-2609-213248.html
Auf der anderen Seite solche News:
https://www.computerbase.de/news/wi...ierte-verlangsamung-der-ki-entwicklung.99486/
Was sollen die Unternehmen nun also machen? Pandora ist aus der Kiste draußen wir müssen uns damit anfreunden, dass KI ein alltäglicher Begleiter sein wird. Mir ist klar, dass viele Leute das nicht wollen aber das Thema mittels Regulierung probieren zu "lösen" wird nicht passieren.
Das wird nicht mehr passieren. Das ist wie an der Tankstelle die 2 wird noch lange beim Preis dabei sein.
Auf der einen Seite hat man solche News:
https://www.golem.de/news/kettenhem...hen-beim-erkennen-von-formen-2609-213248.html
Auf der anderen Seite solche News:
https://www.computerbase.de/news/wi...ierte-verlangsamung-der-ki-entwicklung.99486/
Was sollen die Unternehmen nun also machen? Pandora ist aus der Kiste draußen wir müssen uns damit anfreunden, dass KI ein alltäglicher Begleiter sein wird. Mir ist klar, dass viele Leute das nicht wollen aber das Thema mittels Regulierung probieren zu "lösen" wird nicht passieren.
Marker100 schrieb:
Das wird nicht mehr passieren. Das ist wie an der Tankstelle die 2 wird noch lange beim Preis dabei sein.
Das eine KI von sich aus den Untergang der Menschheit betreiben würde halte ich auch für eher unwahrscheinlich. Auf der anderen Seite: Wenn die KI logisch denkt könnte sie natürlich auf die Idee kommen, daß man den Planeten am besten retten kann wenn die Menschheit zumindest stark dezimiert wäre.
Am wahrscheinlichsten dürfte aber ein Szenario sein wie das aus dem Frühjahr 2026. Damals ließ sich ein Geheimdienstanalyst von einer KI bei seinen Berichten helfen. Nur bemerkte er leider nicht, daß die KI da etwas halluzinierte. Das kommt eben dabei heraus wenn Menschen nicht wirklich verstehen was eine KI ist und wie sie überhaupt zu ihren Ergebnissen kommt.
Im Ergebnis hätte die US-Navy fast ein chinesisches Schiff geentert. Glücklicherweise sahen sich die verantwortlichen Offiziere den Bericht kurz vor dem Einsatz noch einmal genauer an, wurden stutzig und stellten noch einmal eigene Recherchen an.
Das wäre dann der berühmte Kriegsausbruch weil sich irgendwo jemand gewaltig geirrt hat. Man stelle sich vor, so ein Irrtum aufgrund einer KI-Halluzination passiert tatsächlich in einer ohnehin schon angespannten Situation.
Am wahrscheinlichsten dürfte aber ein Szenario sein wie das aus dem Frühjahr 2026. Damals ließ sich ein Geheimdienstanalyst von einer KI bei seinen Berichten helfen. Nur bemerkte er leider nicht, daß die KI da etwas halluzinierte. Das kommt eben dabei heraus wenn Menschen nicht wirklich verstehen was eine KI ist und wie sie überhaupt zu ihren Ergebnissen kommt.
Im Ergebnis hätte die US-Navy fast ein chinesisches Schiff geentert. Glücklicherweise sahen sich die verantwortlichen Offiziere den Bericht kurz vor dem Einsatz noch einmal genauer an, wurden stutzig und stellten noch einmal eigene Recherchen an.
Das wäre dann der berühmte Kriegsausbruch weil sich irgendwo jemand gewaltig geirrt hat. Man stelle sich vor, so ein Irrtum aufgrund einer KI-Halluzination passiert tatsächlich in einer ohnehin schon angespannten Situation.
Ranayna
Fleet Admiral
- Registriert
- Mai 2019
- Beiträge
- 11.925
Wenn man die Worte auf die Goldwaage legt, hat er vermutlich Recht. Zumindest stand jetzt.
Aber KI hat durchaus das potential indirekt an unserer Vernichtung mitzuhelfen.
So erst Nachrichten von heute: https://www.heise.de/news/Nach-KI-H...inahe-Schiff-aus-China-geentert-11459513.html
Ja, auch im kalten Krieg hat es schon Vorfaelle aufgrund automatischer Systeme gegeben, die nur dank des Eingreifens derjenigen die tatsaechlich taetig werden mussten nicht eskaliert sind. Aber KI wird die Zahl dieser Vorfaelle wahrscheinlich deutlich erhoehen.
Und wenn wir dann irgendwann wirklich so dumm sind, die KI auch den Knopf druecken zu lassen...
Nun, dann haben wir es wohl verdient ausgeloescht zu werden.
Aber KI hat durchaus das potential indirekt an unserer Vernichtung mitzuhelfen.
So erst Nachrichten von heute: https://www.heise.de/news/Nach-KI-H...inahe-Schiff-aus-China-geentert-11459513.html
Ja, auch im kalten Krieg hat es schon Vorfaelle aufgrund automatischer Systeme gegeben, die nur dank des Eingreifens derjenigen die tatsaechlich taetig werden mussten nicht eskaliert sind. Aber KI wird die Zahl dieser Vorfaelle wahrscheinlich deutlich erhoehen.
Und wenn wir dann irgendwann wirklich so dumm sind, die KI auch den Knopf druecken zu lassen...
Nun, dann haben wir es wohl verdient ausgeloescht zu werden.