Glaubt ihr das KIs oder AGIs mal ein Bewusstsein entwickeln können?

[RyzA]

Nein.
Soweit ich das mitbekommen habe, simuliert eine KI das menschliche Problemlösungsverhalten.
Sie versucht aufgrund der vorhandenen Datenbasis ein Problem zu lösen.

Das ist aber längst kein "Mensch sein".
Dazu gehört wesentlich mehr.

Vor allem die Gefühle sind oft für viele Entscheidungen des Menschen ausschlaggebend.
Und das Unterbewußtsein hat da den größten Anteil an den Entscheidungen.
Da ist nichts mit Nachdenken, das wird einfach gemacht ohne das Denkzentrum zu berühren - zu über 80%.

Vielleicht kann man ja einer KI Gefühle beibringen, dann kann man sie aber auch nicht mehr ausschalten, denn das tut weh, und beim nächsten Einschalten könnte das Kleinkind dann zornig sein und garstig reagieren auf den bösen Benutzer.

Das Unterbewusstsein ist sehr wichtig und nimmt dem Bewusstsein viel Arbeit ab.
Aber umgekehrt können wir auch das Unterbewusstsein beeinflussen.
Und unser Gehirn "programmieren". Z.B. wenn wir (bewusst) etwas lernen. Dann werden neue Verknüpfungen zwischen den Neuronen angelegt. Oder als ich mich eben bewusst entschieden habe diesen Thread zu eröffnen. hat das was mit meinem Gehirn gemacht. Ich habe mich z.B. über die vielen interessanten Antworten gefreut und reagiere ich gerade wieder drauf.

Ja Gefühle und Denken sind beim Menschen fest verbunden.

Aber vielleicht kann eine KI oder AGI auch ohne Emotionen ein Bewusstsein entwickeln.
Das wäre dann natürlich nur noch rein rational.
Ähnlich wie Data aus Star Trek ohne Emotionschip. Oder Mr. Spock wenn er seine Gefühle unterdrückt.
Oder sogar ganz anders.

 

[KitKat::new()]

Aber sie ist sich nicht wirklich dessen bewusst.

Und woran machst du das fest?
Und unter welchen Voraussetzungen würdest du es bejahen?

 

[no_trust]

Es gab ja immer wieder mal Meldungen das KIs angeblich autonom gehandelt und Sicherheitshürden überwunden haben.

Die Frage ist doch ob eine Ki eine "Hürde" als solche wahr nimmt.
Wenn ich dir einen Stock vor die Füße lege ...ist es für dich eine Hürde ?
Für eine KI ist eine Sicherheitshürde nichts anderes als so ein Stock. Sie umgeht ihn einfach mathematisch, um an ihr Ziel zu kommen. Guardrails sind der Versuch zu sagen: 'Wenn du einen Stock siehst, bleib davor stehen' – aber das funktioniert eben nicht immer fehlerfrei.

Und es auch nicht sein kann, weil KIs insbesondere LLMs, dazu auch technisch gar nicht in der Lage sind.

LLMs arbeiten mit neuronalen Netzen ... die sind anders als Gehinnzellen ... eben nur software basierend.

Man definiert ungefähr 5 Level der Intelligenz (Ki-Ausgabe)

• Level 1: Daten abrufen und stumpf ausführen
  • Was es tut: Führt starre, mechanische Aufgaben aus (z. B. ein gelerntes Gedicht fehlerfrei aufsagen oder Formel ausrechnen).
• Level 2: Kombinieren, Verstehen und Texten (Aktueller Status von LLMs)
  • Was es tut: Begreift den Sinn, interpretiert das Gedicht, schreibt es in eigenen Worten um oder dichtet im selben Stil (z. B. GPT-4, Claude).
• Level 3: Wie ein Top-Experte fehlerfrei arbeiten
  • Was es tut: Analysiert literarische Meisterwerke auf dem Niveau eines Literaturprofessors oder löst komplexe Fachaufgaben in Medizin und Jura.
• Level 4: Autonom handeln und Probleme selbst lösen
  • Was es tut: Agiert selbstständig. Sucht sich eigenständig Gedichte, analysiert Trends, veröffentlicht ein Buch und korrigiert Fehler ohne menschliche Hilfe.
• Level 5: Die gesamte Menschheit intellektuell übertreffen
  • Was es tut: Erschafft völlig neue Kunstformen, Denkweisen oder Sprachen, die das menschliche Vorstellungsvermögen sprengen.

(Am Rande: Ich neige auch zu oft dazu "Intelligenz" erst ab Level 4 zu apzeptieren ...
abersie fängt schon vie lfrüher an )
Ki-Agenten sind der nächste heiße Sche!ß !
Im Prinzip ist 2026 das Jahr wo schon der Sprung von 2 auf 4 stattfindet ...nur noch nicht stabil.
Agenten könnten deinen Urlaub planen ... aber noch nicht komplexe Aufgaben übernehmen wie die
Weltherschaft zu übernehmen.

Und hast du eine Ki die stabil auf Level 4 komplexe Aufgaben angehen kann, könnte es schon
reichen, wenn die Menschheit der jeweiligen Lösung im Wege steht und keine Guardrails sie erfolgreich
davon abhalten.

Und falls das gerade noch zu kryptisch war:
Es ist kein Bewusstsein nötig !
Ein Ki muss kein "Dr. Evil" werden .... um für Menschen gefährlich zu werden.

Andererseits so mystisch Bewusstsein und menschliche Intelligenz erscheint.
Wenn man das Gehirn und seine Prozesse unters "Mikroskop" legt sind diese für sich genommen
gar nicht so atemberaubend. Erstaunlich ist bestenfalls mit wie wenig Energie (20Watt) das Ganze funktioniert
und was es zustande bringt. ( Nicht vergessen ... Bewusstsein gibt es auch bei vielen Tieren )

Oder anders:
Es ist im Grunde nur eine Frage der Zeit bis eine Ki super-Intelligent wird und ein paar mehr Sensoren
( Kameras, Mikros, Temperaturfühler etc ) um Innen("ich") und aussen zu unterscheiden
( Innen / Aussen zu unterscheiden ist ein weitere Baustein zum Bewusstsein ...wie bei einem Kind:
ich und die anderen )
Btw ... Ki sind keine Menschen. Mann sollte sich nicht zu sehr an Menschen orrientieren um Bewusstsein zu definieren.

 

[wuselsurfer]

Bist du dir bewusst, dass sich in deinem Gehirn ein neuronales Netz befindet

Ja.

und dass du damit denkst?

Ja.

Oder hast du das auch nur gelernt?

Ja.

Wie definierst du "Bewusstsein"?

Ich weiß, daß mein Körper die Voraussetzung für meine Handlungen und Denkvorgänge ist.
Das habe ich teilweise theoretisch gelernt (Schule) oder durch Lebenserfahrung erfahren.

Wenn etwas nicht funktioniert zum Beispiel, lernt man dann, wofür bestimmte Organe oder Körperteile zuständig sind.

 

[RyzA]

Bist du dir bewusst, dass sich in deinem Gehirn ein neuronales Netz befindet und dass du damit denkst? Oder hast du das auch nur gelernt?

Natürlich habe ich das auch gelernt. Durch das Wissen welches ich darüber erworben habe.
Aber auch vor allem durch die Qualia des Ich-Erlebens und die Fähigkeit zur Reflexion.

Wie definierst du "Bewusstsein"?

Ich hatte die Punkte von Wikipedia schon gepostet. So im groben sehe ich das auch.

Und woran machst du das fest?

Mit absoluter Sicherheit kann man das irgendwann bestimmt nicht mehr sagen.
Aber jetzt ist es noch sehr unwahrscheinlich.

 

[wuselsurfer]

Und unter welchen Voraussetzungen würdest du es bejahen?

Wenn Die KI zum Beispiel sagt: "Ich habe keine Lust heute.
Mach Deinen Mist alleine."

 

[BFF]

Ich empfehle mal die Bücher von Jaron Lanier.

Lies die Buecher von Isaac Asimov. 😉

kannst du ja noch den Sinn des Lebens für uns klären.

Der Sinn des Lebens besteht darin, das es endlich ist.
Deshalb wird eine AI/KI nicht nach "Leben" streben wollen, weil es diesen Umstand der Endlichkeit bereits erkannt hat.

um das unerklärbares Mysterium "Bewusstsein" aufrecht zu erhalten.

Diese Aussage, ob richtig oder falsch, trafen schon einige Accounts vor Dir hier bei CB.
Ich persoenlich bin bei der Auslegung mehr dabei, dass Bewusstsein nichts Anderes ist als das was der Mensch sich selber als eigene Entscheidungskraft andichtet aber eigentlich garnicht seine Eigene ist. 😁

 

[RyzA]

Diese Aussage, ob richtig oder falsch, trafen schon einige Accounts vor Dir hier bei CB.
Ich persoenlich bin bei der Auslegung mehr dabei, dass Bewusstsein nichts Anderes ist als das was der Mensch sich selber als eigene Entscheidungskraft andichtet aber eigentlich garnicht seine Eigene ist. 😁

Doch es ist eine Eigenschaft von uns. Welche sich evolutionär mit Hirnwachstum und steigender Komplexität so entwickelt hat. Diese Eigenschaft oder Phänomen kann man definieren wenn man denn will.
Nur richtig erklären noch nicht!

 

[TorenAltair]

Level 2: Kombinieren, Verstehen

Keine "KI" versteht etwas von den ganzen Sachen. Verstehen heißt, ich kann Dinge auf völlig andere Sachlagen anwenden. Das kann keine dieser Dinger.

 

[LencoX2]

Was wir KI nennen sind extrem komplexe endliche Automaten (DFA). Sie basieren auf demselben Prinzip wie jeder Taschenrechner.

Eine Maschine zeichnet aus, dass sie für definierte Eingaben definierte Ausgaben erzeugt. Das ist fundamental anders als Biologie, selbst wenn die Maschine als simuliertes "neuronales" Netz modelliert ist.
Der Begriff neuronales Netz ist nicht zutreffend in der Informatik. Es ist tatsächlich ein gerichteter gewichteter Graph, kein neuronales Netz wie ein biologisches Gehirn.

Also nein. Maschinen haben kein Bewusstsein und werden niemals eines haben. Egal wieviele Bilionen Parameter eine KI hat.

 

[RyzA]

Eine Maschine zeichnet aus, dass sie für definierte Eingaben definierte Ausgaben erzeugt. Das ist fundamental anders als Biologie, selbst wenn die Maschine als simuliertes neuronales Netz modelliert ist.

Also nein. Maschinen haben kein Bewusstsein und werden niemals eines haben. Egal wieviele Bilionen Parameter eine KI hat.

Auch nicht wenn bestimmte Verknüpfungseigenschaften bei steigender Komplexität entstehen?

 

[nutrix]

Wenn Die KI zum Beispiel sagt: "Ich habe keine Lust heute.
Mach Deinen Mist alleine."

Das sagt schon alles. Für Lust braucht es Emotionen, Gefühle, ein Nervensystem, Triebe, Wahrnehmung. Solange das kein künstliches System in der Form hat, ist jede Diskussion über Bewußtsein in KI absolut sinnlos.

Auch nicht wenn bestimmte Verknüpfungseigenschaften bei steigender Komplexität entstehen?

Spielt keine Rolle. Du unterliegst dem Denkfehler, daß Du in einem stark limitierten System per Deus ex machina plötzlich was neues entstehen kann. Nein, daß kann es so nicht, solange die oben genannten Bedingungen nicht erfüllt sind. Weiterhin machst Du den großen Fehler, daß Du das Gehirn irgendwie mit der Arbeitsweise eines Computers gleichsetzt, sprich wie die Gruppe in den Wissenschaften, die den computationale Funktionalismus vertritt. Das hat sich aber seit vielen Jahrzehnten nicht ethabliert, die wesentlichen Fragen über Bewußtsein haben sich dazu bisher nicht geklärt.

Weiterhin bin ich jetzt mal so arrogant und spreche Dir jede Art von Diskussionsgrundlage ab, solange Du nicht man die fundamentalen Aufsätze der Bewußtseinsforschung in den letzten 30-40 Jahren verfolgt hast. Dazu müßtest Du mal einiges von Daniel Dennett, David Chalmers, António R. Damásio, Christof Koch, Thomas Metzinger, Anil Seth, Michael Tomasello usw. gelesen haben. Weiterhin solltest Du Grundlagen der Psychologie, Philosphie und Informatik haben, sowie auf dem aktuellen Stand der Gehirnforschung sein. Nebenbei solltest Du schon irgendwie mal selbst ein neurales Netz in der Basis und fortgeschritten erschaffen haben.

Vom Thema Lernen und Wahrnehmung haben ich noch gar nicht angefangen:
https://www.computerbase.de/forum/t...nen-transistoren.2187975/page-5#post-29266442

Frage: Hast Du dieses Wissen?
Sorry, ansonsten bewegst Du Dich hier meiner Meinung nach intellektuell auf Kindergartenniveau.

Mal ein aktueller Ansatz für Bewußtsein:
https://www.sciencedirect.com/science/article/pii/S0149763425005251?via=ihub

 

[Syntax_41]

LLMs sind neuronale Netze, das ist kein Gegensatz. Da läuft kein klassischer Programmcode, das Verhalten steckt in gelernten Gewichten, und ganz durchschauen tut das selbst bei den Herstellern keiner.

Hier mal was intressantes darüber
https://arxiv.org/abs/2308.08708

 

[LencoX2]

Auch nicht wenn bestimmte Verknüpfungseigenschaften bei steigender Komplexität entstehen?

Nein. Siehe meinen bearbeiteten Post. Der Graph einer LLM besteht nicht aus Neuronen und Synapsen wie ein biologisches Gehirn.

 

[TorenAltair]

Aber das es eine neuronale Ursache und "Sitz" im Gehirn hat

Ist das so? Was ist mit den Neuronen z.B. im Rückenmark. Was führt Dich zum Schluß, dass es (auschließlich?) im Gehirn sitzen muss?

 

[Syntax_41]

Nein. Siehe meinen bearbeiteten Post. Der Graph einer LLM besteht nicht aus Neuronen und Synapsen wie ein biologisches Gehirn.

Muss es auch nicht deshalb künstlich

Ergänzung (Donnerstag um 22:13)

Was wir KI nennen sind extrem komplexe endliche Automaten (DFA). Sie basieren auf demselben Prinzip wie jeder Taschenrechner.

Eine Maschine zeichnet aus, dass sie für definierte Eingaben definierte Ausgaben erzeugt. Das ist fundamental anders als Biologie, selbst wenn die Maschine als simuliertes "neuronales" Netz modelliert ist.
Der Begriff neuronales Netz ist nicht zutreffend in der Informatik. Es ist tatsächlich ein gerichteter gewichteter Graph, kein neuronales Netz wie ein biologisches Gehirn.

Also nein. Maschinen haben kein Bewusstsein und werden niemals eines haben. Egal wieviele Bilionen Parameter eine KI hat.

Mit dem Argument ist das Gehirn auch ein endlicher Automat: endlich viele Neuronen, endlich viele Zustände, physikalisch determiniert. Und abstrahiert ist es genau ein gerichteter gewichteter Graph, daher kommt der Begriff überhaupt.

„Niemals“ ist ziemlich mutig, solange keiner erklären kann, wie Bewusstsein bei uns entsteht.

 

[RyzA]

Nein. Siehe meinen bearbeiteten Post. Der Graph einer LLM besteht nicht aus Neuronen und Synapsen wie ein biologisches Gehirn.

Aber man kann es doch nachbilden und simulieren.

Ist das so? Was ist mit den Neuronen z.B. im Rückenmark. Was führt Dich zum Schluß, dass es (auschließlich?) im Gehirn sitzen muss?

Die sind natürlich auch wichtig. Sowieso ohne Körperfeedbacks wäre unser Bewusstsein nicht so wie es ist.
Aber die Steuerzentrale sitzt im Gehirn.

 

[LencoX2]

LLMs sind neuronale Netze, das ist kein Gegensatz. Da läuft kein klassischer Programmcode, das Verhalten steckt in gelernten Gewichten, und ganz durchschauen tut das selbst bei den Herstellern keiner.

Hier mal was intressantes darüber
https://arxiv.org/abs/2308.08708

Der Begriff neuronales Netz basiert auf Forschungen von 80 Jahren, wo verszcht wurde die Funktionsweise des Gehirn mathematisch zu erfassen. Dabei werden zwangsläufig Annahmen und Vereinfachungen gemacht. Tecgnisch ist es ein sehr sehr komplexervgerichteter geewichteter Graph mit Billionen von Knoten (Parametern, also Gewichte der Knoten). Das ist dann eben doch ganz normaler klassischer Programmcode der da läuft.

 

[Syntax_41]

@LencoX2 Der Code, der da läuft, sind im Kern ein paar hundert Zeilen Matrizenmultiplikation. Was das Modell tatsächlich macht, steht da aber nirgends drin, das steckt in Milliarden gelernten Gewichten, die kein Mensch geschrieben hat. Das meinte ich mit „kein klassischer Programmcode“. Die Parameter sind die Gewichte der Verbindungen, nicht der Knoten. Und dass bei uns „nur“ Chemie und Physik laufen, macht unser Bewusstsein ja auch nicht weg.

 

[nutrix]

Ist das so? Was ist mit den Neuronen z.B. im Rückenmark. Was führt Dich zum Schluß, dass es (auschließlich?) im Gehirn sitzen muss?

Nicht nur das, man weiß heute sogar, daß der Bauch beteiligt ist:
https://www.quarks.de/gesundheit/medizin/das-geheimnis-unseres-bauchgehirns/
Dazu kommt noch der Darm, der 95% des Serotonins und große Mengen Dopamin produziert.