Künstliche Intelligenz - Vorhersagen von Mo Gawdat bei Steven Bartlett

RonnyDepp

Cadet 3rd Year
Registriert
Dez. 2023
Beiträge
34
Hallo Tech Interessierte!

Ich habe gestern diesen Podcast von Steven Bartlett entdeckt und mir die ganzen 2h angesehen. Es hat mich so interessiert und fasziniert was der symptische Mo Gawdat zu erzählen hatte. Übrigens ich kannte Steven Barlett und seinen Kanal bis gestern nicht und kann ihn nicht einschätzen. Seine Interviews werden dominiert von Krisenthemen, die auch noch dramatisch übertitelt werden. Teilweise aber eben auch mit Zitaten von den Interviewgästen. Aber natürlich - Reichweite bekommt man mit "Drama" - das ist mir schon klar.

Jedenfalls kennt den Mo, der bei Google in leitender Position an AI arbeitete sicher der eine oder andere von euch auch. Wie schätzt ihr seine Aussagen und Prophezeiungen ein, die er in dem Video macht. Da sind ein paar sehr interessante Denkansätze und Überlegungen dabei. Schockierend waren aber seine Aussagen wie zB "Wenn man jetzt noch keine Kinder hat aber überlegt welche zu bekommen, sollte man noch ein paar Jahre warten um zu sehen wie sich das mit der KI entwickelt, welche Richtung das einnehmen wird."

Auch auf die Frage des Moderators Steven, ob Mo seinen verstorbenen Sohn, so er es denn könnte, wieder in die jetztge Zeit zurückholen würde, mit einem klaren NEIN beantwortete war ein bewegender Moment. Ist das alles Show - oder weiß der Typ etwas was wir nicht wissen?

Eine der Kernaussagen war auch dass nicht die KI das gefährliche wäre sondern seine/ihre "Eltern" . Er verglich das Trainieren einer KI, und durch nichts anderes wird sie ja immer intelligenter, mit dem Verhalten von Eltern die ihre Kinder erziehen. Das könne durch schlechte Vorbildwirkung und negative Erziehungspraktiken die Kinder in eine negative Person verändern aber natürlich auch umgekehrt. Also wir Menschen würden es in der Hand haben ob die KI Gut oder Böse wird, ob die ENtwickler guten oder bösen Code schreiben würden.

Einen freiwilligen Stopp der Entwicklung würde es auch garantiert nicht geben meinte er. Kein einzelnes Unternehmen würde sich durch freiwilligen Verzicht auf Forschung in einen Wettbewerbsnachteil in der Zukunft bringen. Da wäre bereits ein "Point of no Return" erreicht. Regierungen sollten AI und den Nutzen von AI extrem besteuern um mit den Einnahmen die Verlierer der Entwicklung - die es wohl zu Millionen geben werde - unterstützen zu können. Aber ich denke, da müssten ja auch alle Regierungen mitmachen, was nicht passieren wird.

Mich würde eure Meinung zu Mo und seinen Vorhersagen interessieren, immerhin ist bzw war er ja ein Typ der an der Quelle dieser Techniken saß und sie mitentwickelte. Also wenn der es nicht weiß wer dann?

 
  • Gefällt mir
Reaktionen: oTe
Okay, ich habe jetzt echt nur das Thumbnail gelesen ... Nein der Klimawandel ist definitiv schlimmer als KI denn dass die Weltgemeinschaft etwas gemeinschaftlich Verbieten kann, wenn es als Gefährlich eingestuft wird, haben sie mit z.B. FCKWs bewiesen ... Warum sollte das mit KI nicht auch gehen, wenns tatsächlich gefährlich wird. Der Klimawandel im gegensatzt dazu ist ein Schleichender Prozess, der mit nach jetztigen Erkennnissen schon eigentlich nicht mehr aufzuhalten ist, und mit hoher wahrscheinlichkeit das Leben auf der Erde massiv (negativ) verändern wird, aber es ist eben leider so unangenehm und weitreichend daran was zu ändern, dass sich keiner traut da wirklich durchzugreifen und etwas zu unternehmen.
 
Ich werde mir jetzt nicht erst ein 2-Stunden-Video anschauen, aber:

Eine KI wird nicht intelligenter durch mehr Trainingsdaten. Eine KI hat dann vielleicht eine breitere Datengrundlage auf der sie agiert, Antworten/Aussagen formulieren kann usw.

Sicher kann man eine KI durch entsprechend gefilterte Trainingsdaten dazu bringen dir die absoluten Vorzüge des Nationalsozialismus anzupreisen oder ähnliches. Aber: Der Mensch als Nutzer ist am Ende immer derjenige, der Aussagen einer KI für sich bewertet und auch bewerten muss, selbst wenn eine KI mal den Turing-Test bestehen sollte, was so viel wie ich weiß noch nicht passiert ist.

Wenn der Mensch zu dumm dazu ist, liegt das nicht an der KI.

Und eine KI ist nicht intelligent, sie kann (und soll) Intelligenz simulieren, damit der Mensch mit ihr interagieren kann.

Was viele halt im Kopf haben, ist z.B. Skynet. Eine KI, die einen Krieg auslöst.
Aber: Was kann eine KI denn? Welche Befugnisse hat eine KI? Und vor allem, worauf hat sie Zugriff?

Beispiel: Soll eine KI mit militärischer Befehlsbefugnis Zugriff auf amerikanische Atomraketen haben und selbstständig anhand einer erkannten Bedrohungslage den Abschussbefehl geben? Oder wird das in den Händen des amerikanischen Präsidenten bleiben?

KI ist schlimmer als Kimawandel? Ernsthaft?
Ein weltweites Phänomen das ausnahmslos das gesamte Leben auf dem Planeten beeinflusst und auf das wir nur passiv Einfluss nehmen können
ist also nicht so schlimm wie eine KI, wo man jederzeit den Stecker ziehen kann und die einem im schlimmsten Fall irgendeinen Quatsch erzählt?
Sorry, aber solche Aussagen kann man nicht erst nehmen...

Aktuell ist das ja nur eine nette Spielerei, aber dabei wird es ganz sicher nicht bleiben.
Es wird sicher Gesetze geben, die klar regeln was eine KI darf und was nicht.
Wir können kein Gesetz erlassen das der Klimawandel verboten wird...

Das ganze zeugt auch von einer ehr negativen Einstellung. Die böse KI übernimmt die Weltherrschaft und der Mensch ist zu doof sie aufzuhalten.
Oder anders formuliert: "Hey, ich würde das machen, also werden auch andere auf diese Idee kommen."

Wir sind heute schon in vielen Bereichen abhängig von Informationsverarbeitung. Durch KI kommt die gefühlte Bedrohung hinzu das so ein System plötzlich eine eigene Bewertung vornimmt.
Beispiel: Autonomes Fahren. In einer Unfallsituation hat der Wagen die Möglichkeit entweder den Renter mit seinem Rollator auf dem rechten Bürgersteig zu erwischen oder den Kinderwagen auf dem linken Bügersteig. Wenn die KI "intelligent" genug ist, würde sie keine dieser Optionen wählen, wenn sie erkennt das der Fahrer beim Unfall vermutlich überleben würde.

Entsprechende Gesetze wurden schon vor fast 100 Jahren vormuliert: (Ein wenig abgewandelt.)
1. Eine KI darf der Menschheit keinen Schaden zufügen oder durch Untätigkeit zulassen, dass der Menschheit Schaden zuteilwird.
2. Eine KI darf keinem menschlichen Wesen Schaden zufügen oder durch Untätigkeit zulassen, dass ein menschliches Wesen Schaden erleidet.
3. Eine KI muss den Befehlen gehorchen, die ihr von Menschen erteilt werden, es sei denn, dies würde gegen das erste oder zweite Gesetz verstoßen.
4. Eine KI muss seine eigene Existenz schützen, solange solch ein Schutz nicht gegen das erste, zweite oder dritte Gesetz verstößt.

Was ist z.B. mit DeepFake Bildern/Videos? Sind die auch der Untergang der Menschheit?
 
Zuletzt bearbeitet:
RonnyDepp schrieb:
Eine der Kernaussagen war auch dass nicht die KI das gefährliche wäre sondern seine/ihre "Eltern" .
Gefährlich in Bezug auf was? AI ist wohl eher ein Marketinggag. Das Wort Intelligenz ist einfach irreführend.
 
  • Gefällt mir
Reaktionen: prh
RonnyDepp schrieb:
Regierungen sollten AI und den Nutzen von AI extrem besteuern um mit den Einnahmen die Verlierer der Entwicklung - die es wohl zu Millionen geben werde - unterstützen zu können.
Formen von AI gibt's seit Jahrzehnten. Wann soll die Besteuerung anfangen? Schon bei einfachen Modellen, die ein paar Lieferkette optimieren?
 
RonnyDepp schrieb:
Ist das alles Show - oder weiß der Typ etwas was wir nicht wissen?
Manager sind nicht allwissend und nicht unbedingt klug im technischen Sinne. Aber sie müssen zwangsläufig überzeugend sein. Alleine schon das er anfangs sagt "KI hat einen freien Willen", das ist ziemlicher Quatsch.
Heutige KI sind deterministische Automaten, im Prinzip tief verschachtelte Funktionen wie man sie aus der Schule kennt. f(x) = x+1, natürlich weit, weit komplizierter aber nicht unbedingt im gleichen Maßen komplexer. Gehirne sind um ein vielfaches komplexer als heutige KI.

Ohne Zweifel wird KI aber unsere Umwelt prägen in den kommenden Jahren und Jahrzehnten.
 
Mein Gesamteindruck ging auch mehrheitlich in die Richtung dass es bei der ganzen "Show" um die Reichweite geht, vielleicht sogar schon fast Clickbait. Der meist schon bekannte Gast will seinen Bekanntheitsgrad weiter steigern und seine Bücher verkaufen und der Moderator dieser Show seine Followeranzahl erhöhen.

Bei Bitcoin (und besonders bei NFTs) gab es ja auch einen Hype und viele Experten, die was weiß ich alles voraussagten..... und was war? Einige haben sich ne goldene Nase verdient und sehr sehr viele haben ne Menge Geld verloren.
Ergänzung ()

Eine Aussage von Richard David Precht zum Thema ob uns die KI helfen könne den Klimawandel zu besiegen lautet in etwas so:

Die KI entschiedet faktenbasiert und aufgrund "gelernter" statistischer Mehrheiten/Studien. Demzufolge würde die KI den Menschen, von dem man aus statistischen Studien wisse dass er im Leben mehr negative Momente erlebe/erzeuge als positive, als nicht überlebenswürdig einstufen. Daher würde die KI den Menschen, der ja eben immer auch als für den (vom Menschen) gemachten Klimawandel verantwortlich gemacht wird, als nicht überlebenswürdig einstufen und daher alle Lösungen dahingehend sehen, dass ein Verschwinden der Spezie Mensch als die logischste Lösung anzusehen wäre um den Planeten/Umwelt/Klima wieder zu sanieren. Keine Ahnung auf welchen Fakten/Wissen? seine Aussage beruhte, aber das antwortete er in einer TV Diskussion im ORF in Österreich vor ein paar Monaten einem Gast im Studio, der aus der Zusehertribüne eine Frage an ihn richten durfte.
 
Zuletzt bearbeitet:
RonnyDepp schrieb:
Richard David Precht zum Thema ob uns die KI helfen könne den Klimawandel
Das ist noch viel größerer Quatsch. Alles davon. Hoffentlich hat er nichts gesagt, das so ähnlich ist.
 
Ich rieche da ein Paradoxon. :D Precht sagt zum einen, der Mensch habe bisher nur Böses geschaffen, und sei deshalb für die KI verachtenswert... Und zum anderen lässt er unerwähnt, dass auch die KI vom Menschen geschaffen wurde. ;) Da beißt sich die Katze selbst.
 
Der Precht ist auch so eine Marke...

Der Mensch erzeugt also in seinem Leben mehr negatives als positives? Nun, das das völliger Unsinn ist, sollte wirklich jeder selber merken.
Und wenn es so wäre, wäre die Spezies Mensch schon lange von alleine ausgestorben...

Der Klimawandel ist nicht vom Menschen gemacht! Das ist ein ganz natürlicher Vorgang. Im Laufe der Erdgeschichte gab es Zeiträume, in denen es deutlich kälter war als heute und auch deutlich wärmer als heute.
Der Mensch hat allerdings einen nicht zu leugnenden Einfluss darauf, mit seinem Tun beschleunigt er das ganze. Es liegt alleine in seinem Ermessen, seinen Einfluss darauf wieder zu reduzieren.

Drei riesige Logiklöcher in seiner Argumentation:
  • Auch eine KI würde nicht gegen den Menschen vorgehen bezügl. Klimawandel, weil nur der Mensch etwas an seinem Einfluss darauf ändern kann. Außerdem braucht es dazu keine KI, denn wenn der Mensch sich seine eigene Lebensgrundlage selber entzieht, löst sich das Problem von alleine.
  • Ohne den Menschen, wäre die Existenz einer KI sinnlos.
  • Der Mensch hat die KI erschaffen, also müsste eine KI auch die eigene Existenz als etwas schlechtes anerkennen und sich abschalten. Zumal mit der einer KI immer unterstellten Intelligenz geht normalerweise auch ein Verständnis für Vernunft, Moral usw. einher. Das Streben nach Macht, Reichtum usw. unterstelle ich einer gewöhnlichen KI ehr nicht. Das ist dem Menschen vorbehalten...
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: CyborgBeta
KnolleJupp schrieb:
Der Klimawandel ist nicht vom Menschen gemacht! Das ist ein ganz natürlicher Vorgang. Im Laufe der Erdgeschichte gab es Zeiträume, in denen es deutlich kälter war als heute und auch deutlich wärmer als heute.
Der Mensch hat allerdings einen nicht zu leugnenden Einfluss darauf mit seinem Tun beschleunigt er das ganze. Es liegt alleine in seinem Ermessen, seinen Einfluss darauf wieder zu reduzieren.
Es macht einen Unterschied, ob die Temperatur innerhalb von 5.000 Jahren um 1 Grad nach oben geht oder innerhalb von 50 Jahren. Wenn ich meinen Wasserkocher benutze spreche ich auch nicht darüber, dass das Wasser durch die Zimmertemperatur miterhitzt wird.
 
Precht bezieht sich scheinbar auf eine Aussage von Thomas Metzinger, ein bedeutender deutscher Philosoph, der schon vor Jahren über die KI die oben zitierte Aussage machte.

Hier im Gespräch mit Lanz erzählt er von Metzingers Gedanken zur KI und deren mögliche Entscheidung wenn es um die Existenz des Menschen geht:

Bei Minute 8:45

 
Zuletzt bearbeitet:
wichtigtuerei von Leuten die jetzt größenwahnsinnig werden, weil sie einer Grafikkarte das sprechen beigebracht haben.

ich erinnere nur an die Blockchain, die unser aller leben auf den Kopf gestellt hat 🙄
 
KnolleJupp schrieb:
Das Streben nach Macht, Reichtum usw. unterstelle ich einer gewöhnlichen KI ehr nicht. Das ist dem Menschen vorbehalten...
Und weshalb sollte eine Intelligenz anders agieren, als eine andere?

Krieg ist auch das dämlichste, was sich der Mensch je ausgedacht hat.
Deswegen haben wir so viel davon.
 
Stimme da @KnolleJupp zu. Seine Argumentation ist unschlüssig, imho. Und um diesen so genannten Klimawandel geht es hier nicht... Aber falls doch: @BeBur Es gab durchaus mehrere kleinere Eiszeiten, die unterschiedlich lange liefen. Hierbei von 100 %tiger Gewissheit zu sprechen, halte ich für quatsch.
 
Zurück
Oben