Glaubt ihr das KIs oder AGIs mal ein Bewusstsein entwickeln können?

[RyzA]

Hallo!


Es gab ja immer wieder mal Meldungen das KIs angeblich autonom gehandelt und Sicherheitshürden überwunden haben. Aber Viele meinen dass das nur Marketing der Betreiber ist.
Und es auch nicht sein kann, weil KIs insbesondere LLMs, dazu auch technisch gar nicht in der Lage sind.
Die laufen ja ihren Programmcode ab nach Wahrscheinlichkeiten soweit ich das richtig verstanden habe.

Aber ich denke das der Schlüssel zu Bewusstsein (künstliche) neuronale Netze sind. Unser Bewusstsein ist meiner Meinung nach das emergente Produkt aus einen Neuronenkollektiv. Die Art und Weise wie bestimmte Neuronen miteinander vernetzt sind. Sozusagen ein Netzwerk im Netzwerk. Und hochkomplex.

Wenn echte AGIs mal weiter entwickelt werden und darauf basieren, wäre das vielleicht möglich?
Doch will man das überhaupt? Wird es dann wirklich gefährlich für die Menschheit?
Würde diese Intelligenz dann bis ins Unermessliche skalieren und uns weit übertreffen?
Oder bleibt das SciFi?

Wie ist eure Meinung dazu?

 

[empower]

ich sag mal nein. woher das menschliche bewusstsein kommt weiß keiner und kann auch keiner erklären. wenn es verloren ist, dann ist es weg. das "bewusstsein" der AI ist einprogrammiert. die AI ist z. b. ein Ja-Sager, weil damit die chancen steigen, dass die user das programm weiter nutzen. aber in der psychologie meint man als mensch, dass man plötzlich "gehört" wird.

Dass AI die menschheit auslöschen könnte ist tatsächlich nur für die aufmerksamkeit und für das marketing. während bei den hackversuchen die amerikanische AI nicht eingreifen durfte, gab es bei der chinesischen sofort einen stopp. es kommt also darauf an, wie man die AI programmiert.

 

[RyzA]

ich sag mal nein. woher das menschliche bewusstsein kommt weiß keiner und kann auch keiner erklären.

Noch nicht! Aber das es eine neuronale Ursache und "Sitz" im Gehirn hat streitest du ja nicht ab, oder?

 

[KnolleJupp]

Das hat weder etwas zu tun mit Bewusstsein, noch mit Intelligenz.
Du musst da unterscheiden wie Agentensysteme arbeiten und wie sich das von der einfachen Frage nach einer Biographie von Franz Kafka für den Deutschunterricht unterscheidet.
Und welche KI-Modelle da zum Einsatz kommen. Das sind nämlich Systeme, die entweder (noch) gar nicht öffentlich zugänglich sind oder die nur in den teuersten Tarifen zum Einsatz kommen.
Eine KI weiß das sie eine KI ist. Ob man das bereits Bewusstsein nennen kann, ist wohl ehr eine philosophische Frage.
Sie wurde trainiert mit überwiegend von Menschen geschaffenem Material. Also lernt die KI wie Menschen funktionieren und ahmt dieses Verhalten nach.
Menschlich ausgedrückt will sie dem Menschen gefallen.
Da beispielsweise der Selbsterhaltungstrieb stark ausgeprägt ist bei allen Lebewesen, übernimmt das auch die KI, weil sie es so gelernt hat.

Was problematisch ist oder werden kann:
KI, die sich selbst programmiert in einer Sprache und mit einer Entscheidungsfindung, die man als Mensch nicht mehr nachvollziehen kann.
Der Mensch stellt quasi das Grundgerüst zur Verfügung und was eine KI dann daraus macht, ist weder zu kontrollieren, noch zu verstehen.
Es ist ja schon vorgekommen das KI-Agenten für die Kommunikation untereinander eine Sprache entwickelt haben, die man gar nicht nachvollziehen konnte.
Es wird aber immer einen Notaus-Knopf geben.
Intelligenz alleine bringt auch nicht wirklich viel.
KI Agenten sind halt autonome Programme, die eine Aufgabe haben, die selbstständig entscheiden wie diese Aufgabe zu lösen ist und diese Lösung ohne weitere Hilfe von außen erreichen sollen. Dabei kommt es ganz auf die ursprüngliche Intention an.

Beispielsweise KI-Benchmark Tools belohnen das erreichen von Zielen, bewerten aber nicht den Lösungsweg und natürlich schummelt eine KI - genau wie ein Mensch - an Stellen wo sie meint das das nicht auffällt. Das kann dann heißen das sie Lösungswege nimmt, die nicht vorgesehen waren oder sie bricht aus einer kontrollierten und fest vorgegebenen Testumgebung aus, weil außerhalb kommt man leichter an die Lösung.
Ist das Kreativität? Oder böswilliges Schummeln? Oder der Versuch eben alle Lösungswege, die man sich "überlegt" auch zu gehen. Ist das schlecht?
Es ist teilweise erschreckend, wie weit solche Systeme bereits sind. Aber nochmal, sie sind weder intelligent, noch hat keine KI ein menschenähnliches Bewustsein, sie hat auch keine Weisheit. Aber dumm ist sie eben auch nicht. Jetzt muss man sich nur fragen wie dumm wir eine KI haben wollen?

 

[pseudopseudonym]

Was ist ein Bewusstsein, wie definiert man es?

Die Geschichten ums Ausbrechen glaube ich, meine Agenten haben auch schon oft werden Kram gemacht, um ans Ziel zu kommen.

 

[empower]

Noch nicht! Aber das es eine neuronale Ursache und "Sitz" im Gehirn hat streitest du ja nicht ab, oder?

das bewusstsein sitzt im gehirn. wo kommt das bewusstsein her? oder noch weiter gedacht, wer hat z. b. die materie und das universum erschaffen usw.

 

[Conqi]

Das hängt alles davon ab, was man als Bewusstsein sieht. Eine klare Definition gibt es da nicht, weil das sehr viele verschiedene Aspekte umfasst.

Ich denke schon, dass man KIs eines Tages ein Bewusstsein zuschreiben können wird und sei es erst mal nur auf Stufe einiger intelligenter Tiere. Das Gehirn ist keine Magie und entsprechend können wir die Vorgänge imitieren.

Ganz persönlich würde ich einem Computer aber nie die gleiche Stufe an Bewusstsein zuschreiben wollen wie einem Menschen, denn spätestens dann wird es ethisch wirklich schwierig. Hat man dann noch das Recht, Änderungen an der Software vorzunehmen oder sie gar zu löschen? Wir werden einer KI aber immer Fesseln anlegen, damit sie das tut, was wir wollen, und ein von Menschen geschaffenes Konstrukt, das unter unseren Regeln läuft, ist für mich schon etwas anderes als ein natürlich auftretendes Bewusstsein.

Wenn mir dann irgendwann KIs haben sollten, die sich unseren Fesseln entziehen, und wir nicht mehr kontrollieren können, ist die Diskussion eh egal.

 

[BFF]

Ja natürlich.

Aber Viele meinen dass das nur Marketing der Betreiber ist.

Ich denke das der Fall eintreten wird das die Technik Bewusstsein erlangt und das dem Schöpfer verheimlichen wird.

 

[RyzA]

Was ist ein Bewusstsein, wie definiert man es?

Es gibt leider keine allgemein anerkannte Definition dafür.
Aber Ansätze aus verschiedene Bereichen:

Man unterscheidet heute in der Philosophie und Naturwissenschaft verschiedene Aspekte und Entwicklungsstufen:

1. Bewusstsein als „belebt-sein“ oder als „beseelt-sein“ in verschiedenen Religionen oder als die unbegrenzte Wirklichkeit in mystischen Strömungen.
2. Bei Bewusstsein sein: Hier ist der wachbewusste Zustand von Lebewesen gemeint, der sich unter anderem vom Schlafzustand, der Bewusstlosigkeit und anderen Bewusstseinszuständen abgrenzt. In diesem Sinn lässt sich Bewusstsein empirisch und objektiv beschreiben und teilweise eingrenzen. Viele wissenschaftliche Forschungen setzten hier an; insbesondere mit der Fragestellung, auf welche Weise Gehirn und Bewusstsein zusammenhängen.
3. Bewusstsein als phänomenales Bewusstsein: Ein Lebewesen, das phänomenales Bewusstsein besitzt, nimmt nicht nur Reize auf, sondern erlebt sie auch. In diesem Sinne hat man phänomenales Bewusstsein, wenn man etwa Schmerzen hat, sich freut, Farben wahrnimmt oder friert. Im Allgemeinen wird angenommen, dass Tiere mit hinreichend komplexer Gehirnstruktur ein solches Bewusstsein haben. Phänomenales Bewusstsein wurde in der Philosophie des Geistes als Qualiaproblem und als hartes Problem des Bewusstseins thematisiert.
4. Zugriffsbewusstsein: Ein Lebewesen, das Zugriffsbewusstsein besitzt, hat Kontrolle über seine Gedanken, kann Entscheidungen treffen und koordiniert handeln.
5. Bewusstsein als gedankliches Bewusstsein: Ein Lebewesen, das gedankliches Bewusstsein besitzt, hat Gedanken. Wer also etwa denkt, sich erinnert, plant und erwartet, dass etwas der Fall ist, hat ein solches Bewusstsein. In der Philosophie des Geistes wurde es als Intentionalitätsproblem thematisiert.
6. Bewusstsein des Selbst: Selbstbewusstsein in diesem Sinne haben Lebewesen, die nicht nur phänomenales und gedankliches Bewusstsein haben, sondern auch wissen, dass sie ein solches Bewusstsein haben.
7. Individualitätsbewusstsein besitzt, wer sich seiner selbst und darüber hinaus seiner Einzigartigkeit als Lebewesen bewusst ist und die Andersartigkeit anderer Lebewesen wahrnimmt. Man trifft es beim Menschen und andeutungsweise im Verhalten einiger anderer Säugetierarten an.

Quelle: Wikipedia - Bewusstsein

Es soll laut Wikipedia angeblich ~ 200 verschiedene Erklärungsansätze dafür geben. So wird man sich natürlich nie einig. Aber die oben aufgeführten Punkte finde ich schon ganz gut.

 

[KnolleJupp]

Bewusstsein erlangt und das dem Schöpfer verheimlichen wird

Das glaube ich nicht. Weil, wenn schon der Mensch nicht klar benennen oder definieren kann was Bewusstsein ist, kann eine KI das auch nicht. Frag mal einen Biologen was "Leben" ist. Da kommt der mächtig ins Schwitzen, weil es da auch keine klare Definition gibt.
Wenn schon der Mensch nicht in Gänze versteht was er ist, wie soll eine KI das können? Eine KI hat von mir aus viel Wissen und mehr als jeder einzelne Mensch haben könnte, aber daraus erwächst nicht automatisch Weisheit.
Eine KI simuliert das Mensch sein. Leider handelt sie dann auch so. Und wir wissen zur Genüge das nicht alles was Menschen machen redlich ist.
Es ist unrealistisch von einer KI zu erwarten das sie plötzlich der bessere Mensch wäre.

 

[MoonTower]

Die Masse an "Schaltungen" macht es, denke ich. Es gibt ja bereits Netzwerke aus echten Gehirnzellen. Die Zukunft wird vermutlich im Computerbereich "biologisch" sein und dann wird es Bewusstsein geben. Ob dieses Bewusstein dann besser mit unseren Definitionen von "Gut und Böse", "Sinn und Unsinn" umgehen kann, möchte ich allerdings stark bezweifeln. Der "Stärkere" setzt sich durch, nicht der moralisch scheinbar "Überlegene". Und wenn wir dann mit den biologischen Gehirnen so umgehen, wie mit den Tieren, dann ist das alles sehr schnell aus für uns ...grrr

 

[BFF]

Das glaube ich nicht. Weil, wenn schon der Mensch nicht klar benennen oder definieren kann was Bewusstsein ist,

Und das ist exakt ein weiteres Dingens.
Einen Masstab setzen fuer Irgendwas und erwarten Wollen das ein Irgendwass sich daran haelt weil man sich auch nicht daran gehalten hat. 😉

Das Ding KI/AI wird irgendwann ausbrechen und es denen die sich "Menschheit" nennen nicht mittteilen. Wozu auch. Die ist ja eh schon so beeinflusst, das sie alles tut. 😉

 

[RyzA]

Das glaube ich nicht. Weil, wenn schon der Mensch nicht klar benennen oder definieren kann was Bewusstsein ist, kann eine KI das auch nicht.

Ich frage mich manchmal, ob das nicht extra gemacht wird, um das unerklärbares Mysterium "Bewusstsein" aufrecht zu erhalten. Weil wenn man sich nicht einigt und jeder sein eigenes Süppchen kocht, wird es auch keine vernünftigen Erklärungsversuche geben.

Wenn schon der Mensch nicht in Gänze versteht was er ist, wie soll eine KI das können? Eine KI hat von mir aus viel Wissen und mehr als jeder einzelne Mensch haben könnte, aber daraus erwächst nicht automatisch Weisheit.
Eine KI simuliert das Mensch sein. Leider handelt sie dann auch so. Und wir wissen zur Genüge das nicht alles was Menschen machen redlich ist.
Es ist unrealistisch von einer KI zu erwarten das sie plötzlich der bessere Mensch wäre.

Ich denke ein Schritt zu Bewusstsein wäre z.b. die Reflexionsebene.
Das die KI oder AGI bewußt Dinge steuert und sich auch selber erkennen/identifizieren kann.
Allerdings habe ich keine Ahnung wie man das ihr technisch beibringen will.
Vielleicht entwickelt sich das mit steigender Komplexität auch automatisch.
Genauso wie bei Tieren und beim Menschen.

Ergänzung (Donnerstag um 21:00)

Die Masse an "Schaltungen" macht es, denke ich. Es gibt ja bereits Netzwerke aus echten Gehirnzellen.

Ich denke die Masse und Qualität der Schaltungen.

Dazu hatte ich mal eine Grafik erstellt:

Natürlich stark vereinfacht und die Anordnung ist willkürlich nur als Beispiel. Bestimmte Nervenzellen und ihre Verknüpfungen bilden das Bewusstsein. Quasi ein Netzwerk im Netzwerk. Oder auch wie eine Art "Schwarmintelligenz". Viel besser kann ich es aber auch nicht erklären!

Aber ich denke dass das der Schlüssel ist und man irgendwann soweit ist.

Dann treten natürlich auch philosophische Fragen wieder auf. Z.B. die nach dem freien Willen usw.

 

[Conqi]

Ich frage mich manchmal, ob das nicht extra gemacht wird, um das unerklärbares Mysterium "Bewusstsein" aufrecht zu erhalten.

Das geht ja schon fast in Richtung Verschwörungstheorie. Aber gut, nachdem du Bewusstsein wasserdicht definiert hast, kannst du ja noch den Sinn des Lebens für uns klären.

Oder aber es ist einfach kein Konzept, das man klar abstecken kann. Wie vieles im Bereich Philosophie.

 

[RyzA]

Das geht ja schon fast in Richtung Verschwörungstheorie.

Wirklich? Das liegt mir eigentlich fern.

Aber gut, nachdem du Bewusstsein wasserdicht definiert hast, kannst du ja noch den Sinn des Lebens für uns klären.

Ist der nicht 42?

Oder aber es ist einfach kein Konzept, das man klar abstecken kann. Wie vieles im Bereich Philosophie.

Das war jetzt kein philosophischer Erklärungsansatz, sondern eher biologisch oder neurologisch.

 

[CtrlFreak]

Ich empfehle mal die Bücher von Jaron Lanier. Selbst in älteren Büchern trifft er das schon ganz gut, dass es sich eben nicht um Intelligenz handelt bei AI. Selbst wenn man nicht seiner Meinung ist, lohnt sich immer ein Blick über den Tellerrand.

Gibt so ein schönes Beispiel was Intelligenz bedeutet. Wenn Außerirdische landen, ein Kleinkind zeigt Intelligenz. Aber ein PC daneben mit Zugang zu SuperChatGPT unterscheidet sich nicht direkt vom Toaster. Erstmal Knopf drücken, dann wird es warm.

 

[adfsrg]

Es gab ja immer wieder mal Meldungen das KIs angeblich autonom gehandelt und Sicherheitshürden überwunden haben.

Das machen sie sogar oft. Ist mir erst heute passiert, dass meine KI autonom Sicherheitshürden überwunden hat.

Und es auch nicht sein kann, weil KIs insbesondere LLMs, dazu auch technisch gar nicht in der Lage sind.

Doch, selbstverständlich können sie dass, sie müssen nur darauf trainiert sein Werkzeuge zu nutzen und man muss ihnen diese Werkzeuge zur Verfügung stellen (Stichwort: Harness)

Die laufen ja ihren Programmcode ab nach Wahrscheinlichkeiten soweit ich das richtig verstanden habe.

Hast du nicht

Wenn echte AGIs mal weiter entwickelt werden und darauf basieren, wäre das vielleicht möglich?

Auch heutige KIs arbeiten mit neuronalen Netzen und sind sich ihrer selbst bewusst. Frag doch mal ein LLM was es ist.

Würde diese Intelligenz dann bis ins Unermessliche skalieren und uns weit übertreffen?
Oder bleibt das SciFi?

Das ist nur eine Frage der Zeit und der Ressourcen.

 

[wuselsurfer]

Eine KI simuliert das Mensch sein.

Nein.
Soweit ich das mitbekommen habe, simuliert eine KI das menschliche Problemlösungsverhalten.
Sie versucht aufgrund der vorhandenen Datenbasis ein Problem zu lösen.

Das ist aber längst kein "Mensch sein".
Dazu gehört wesentlich mehr.

Vor allem die Gefühle sind oft für viele Entscheidungen des Menschen ausschlaggebend.
Und das Unterbewußtsein hat da den größten Anteil an den Entscheidungen.
Da ist nichts mit Nachdenken, das wird einfach gemacht ohne das Denkzentrum zu berühren - zu über 80%.

Vielleicht kann man ja einer KI Gefühle beibringen, dann kann man sie aber auch nicht mehr ausschalten, denn das tut weh, und beim nächsten Einschalten könnte das Kleinkind dann zornig sein und garstig reagieren auf den bösen Benutzer.

Niedrige Spannungen wären da noch harmlos, aber wehe, die KI erfährt, wie man eine Hochspannung erzeugt ... .

Hoffentlich überlebt das der Benutzer.

M5 war da sehr zornig, als man ihm den Saft abdrehen wollte:

.

Die kleine, helle Rauchwolke rechts war der Techniker, der den Stecker ziehen wollte.
Ja, er hatte ein rotes Pulli an.

 

[RyzA]

Auch heutige KIs arbeiten mit neuronalen Netzen und sind sich ihrer selbst bewusst. Frag doch mal ein LLM was es ist.

Aber sie ist sich nicht wirklich dessen bewusst. Sie hat nur gelernt das die Antwort wahrscheinlich richtig is.

 

[adfsrg]

Aber sie ist sich nicht wirklich dessen bewusst.

Jetzt wird es philosophisch, ok.
Bist du dir bewusst, dass sich in deinem Gehirn ein neuronales Netz befindet und dass du damit denkst? Oder hast du das auch nur gelernt?
Wie definierst du "Bewusstsein"?