nutrix schrieb:
Sicher, aber der Verlust von Arbeitsplätzen oder Änderung der Arbeitswelt ist auch nichts neues oder gar so bedrohliches, was die Existenz der Menschheit in Frage stellt.
Damals als die Motoren und Dampfmaschinen die Menschen- und Tierkraft ersetzten, war auch Panikmache. Näher erinnere ich mich an Projekte von Kollegen, als diese in den 80ern alle Lochkartenkartenstanzerinnen (nur Frauen hatten das damals gemacht) arbeitslos machten, weil Terminals und Drucker dann als Ersatz eingesetzt wurden. Und? Wenn man das rückwirkend betrachtet, hat es eher mehr genutzt und die Entwicklung vorangetrieben als geschadet.
Klar, Auswirkungen hat alles, auch KI. Aber ob es dann positive oder negative Effekte haben wird, hängt von den Menschen ab, die das bedienen.
Da bin ich vollkommen bei dir und du hast einen wichtigen Punkt.
Mit deiner Priorisierung hast du recht, das Auslöschungsrisiko muss oberste Priorität haben. Bei einem so hohen negativen Erwartungswert ist selbst ein kleiner Prozentsatz nicht mehr ignorierbar, das stimmt. Dein Hausriss Vergleich passt da wirklich gut.
Aber genau deshalb darf man die schleichende Bedrohung die parallel dazu bereits läuft nicht unterschätzen. Denn beide Risiken sind miteinander verbunden. Wir reden hier nicht von einem entweder oder. Genau die schleichende KI Ausbreitung in kritische Bereiche ist ja der Weg über den auch das große Risiko real werden kann. KI im Militär ist da das beste Beispiel. Wenn KI Systeme in immer mehr Waffensystemen, in Zielauswahl, in Frühwarnsystemen, in autonomen Drohnen eingesetzt werden, dann steigt mit jeder weiteren Integration die Wahrscheinlichkeit dass irgendwann mal der rote Knopf gedrückt wird. Nicht weil eine KI böse ist, sondern weil eine Fehlinterpretation, ein Bug, eine falsche Mustererkennung reicht.
Und diese Wahrscheinlichkeit ist meiner Meinung nach längst nicht mehr bei 0,1 Prozent. Wenn wir in dem Tempo weitermachen wie jetzt, wenn KI weiter so aufgepusht wird ohne echte Regulierung, ohne echte Kontrolle, ohne dass die Verantwortlichkeiten geklärt sind, dann ist die Wahrscheinlichkeit deutlich höher. Vielleicht 1 Prozent, vielleicht 5, vielleicht mehr. Niemand weiß es genau und genau das ist das Problem.
Es gab in der Vergangenheit schon mehrfach Situationen in denen die Welt nur knapp am Atomkrieg vorbei geschrammt ist, weil ein einzelner Mensch, ein Stanislaw Petrow zum Beispiel, sich gegen die Anzeige seines Frühwarnsystems entschieden hat und nicht meldete was das System behauptete. Ein Mensch mit Bauchgefühl, Erfahrung und Verantwortungsgefühl. Wenn diese Rolle in Zukunft eine KI übernimmt, gibt es niemanden mehr der aus Menschlichkeit heraus zögert. Die Maschine meldet was ihre Statistik sagt und dann läuft der Automatismus weiter. Genau da wird das theoretische Auslöschungsrisiko sehr schnell sehr real.
Natürlich sind das erstmal Horrorszenarien und liegen noch in der Zukunft, das will ich gar nicht anders darstellen. Aber mit dem momentanen Tempo bei dem KI überall reingedrückt wird kann das schneller Realität werden als uns lieb ist. Und ich denke genau das ist es was die KI Unternehmen wie Anthropic oder OpenAI mit ihren Warnungen eigentlich sagen wollen. Die sitzen ja am nächsten dran, die sehen jeden Tag wozu ihre eigenen Systeme fähig sind und wie schnell sich das entwickelt. Wenn ausgerechnet die anfangen laut zu warnen und freiwillige Verlangsamung fordern, dann sollte man das nicht als Marketing abtun, sondern als ernst gemeinten Weckruf verstehen. Die haben ja am wenigsten Grund die eigene Branche schlecht zu reden, außer sie sehen wirklich etwas was uns von außen noch nicht so klar ist.
Also ja, ich bin bei dir. Erst Auslöschung verhindern, dann Rest. Aber die Verhinderung des großen Knalls fängt genau bei der Regulierung der schleichenden Ausbreitung an. Beides gehört zusammen und deshalb ist beides Prio 1.