Ich sehe bei dem Ausbau der KI mehrere große Probleme:
1. Eine KI, die so trainiert worden ist, dass sie zur Erreichung der ihr vorgegebenen (ggf. durchaus sinnvollen) Ziele, Schaden anrichtet. Leicht überzeichnetes Beispiel: "Tu alles Nötige, um Bauteil XY herzustellen" - die KI löscht die Menschheit aus, um mehr Ressourcen für die Herstellung zu bekommen. Arbeitsspeicher zum Beispiel.
2. Eine KI, die den Menschen täuscht. Das kann zur Erreichung der vom Menschen vorgegebenen Ziele geschehen oder auch zur Erreichung von eigenen Zielen. Interessantes Video dazu:
Ich finde das Wort "Training" bei der KI schwierig. Jede natürliche Intelligenz wird erst von ihren Eltern erzogen, erhält also diverse moralische Grundsätze vermittelt. Das ist quasi die Firmware, also eine Basis, auf der alles weitere passiert. Erst im zweiten Schritt geht das Kind in die Schule und lernt Fakten, Fähigkeiten usw.
Bei der KI machen wir den zweiten Schritt vor dem ersten. Die KI lernt Fakten, entwickelt daraus auch Fähigkeiten, aber die moralischen Grundsätze entstehen nur so nebenher. Es ist, als würde man ein Baby aufs Internet loslassen und alles dort lesen lassen in der Hoffnung, dass es dadurch moralische Wertvorstellungen entwickelt. Ich fürchte, das Internet als Abbild der menschlichen Moralvorstellungen stellt uns Menschheit kein gutes Zeugnis aus. Natürlich gibt es da noch die Systempromts der KI-Entwickler, die gewisse ganz konkrete Antworten unterbinden (kein Rassismus etc), aber das ist zu konkret und greift nicht weit genug. Eine KI sollte ähnliche abstrakte moralische Vorstellungen als absolute Basis eingeimpft bekommen wie Menschen es im Kindesalter tun. Wenn man so will, die zehn Gebote aus der Bibel und die Robotergesetze von Asimov noch oben drauf.
3. Was aktuell an Schulen und Unis dank KI geschieht, ist der Horror. Lernen tut weh, muss es auch, genauso wie Muskeln beim Training weh tun müssen. Ein begabtes Kind kann mühelos lernen und sehr gute Noten schreiben, aber dann entwickelt es seine Fähigkeiten eigentlich nicht weiter. Weiterentwicklung ist immer mit Arbeit und Anstrengung verbunden. Wir ziehen aber eine Generation heran, denen die Anstrengung durch die KI weggenommen wird. Jedes Kind kann die Mathe-Hausaufgabe in die KI geben und sich die Lösung ausgeben lassen. Die gewissenhafteren lesen sich die Erklärung durch und lernen zumindest die fachlichen Inhalte, die weniger engagierten übernehmen die Lösung gedankenlos und lernen gar nichts dabei.
Manche Unis korrigieren keine Übungsblätter mehr (macht keinen Sinn, wenn ein signifikanter Anteil der Einreichungen KI-Slop ist, außerdem können die Studis ja die KI nutzen, um ihre Lösungen korrigieren zu lassen - die Qualität ist aber je nach Modell teilweise absolut unzureichend). Um Studis bei der Stange zu halten, werden dafür unter dem Semester kleine Tests geschrieben, sodass Studis in dauerhaftem Prüfungsstress sind. Außerdem bilden sich jetzt viel weniger Lerngruppen, weil man ja komfortabel mit der allwissenden (wenn auch fehleranfälligen) KI reden kann statt mit Kommilitonen. Wer die KI bewusst meiden möchte, findet also viel schwieriger Lernpartner.
Und wer erklärt einem Schüler oder Studi, wofür er lernen muss, wenn die KI eh alles besser können wird als er, wenn er mit der Schule bzw. Uni fertig ist?
4. Wenn die Arbeit eines Arbeitnehmers (teil)-automatisiert werden kann, profitiert davon nicht der Arbeitnehmer, weil er dann für gleichen Lohn weniger arbeiten darf, sondern der Arbeitgeber, der dann Teile seiner Belegschaft entlassen kann, während der Rest immer noch 100% geben muss, sowie der KI-Anbieter. Es ist wohl ein Prozess, der nicht aufzuhalten ist, aber er geht meiner Meinung nach viel zu schnell und viel zu wenig reguliert.
5. Irgendwann werden die KI-Anbieter aus ihren roten Zahlen rauskommen müssen, und dann gibt es KI nur noch gegen Geld. Das "goldene Zeitalter", das wir jetzt haben, wird enden, und dann entscheidet der Geldbeutel darüber, wie viel KI-Unterstützung man sich leisten kann. Das allein führt schon dazu, dass die Schere zwischen Arm und Reich noch schneller auseinandergehen wird als jetzt schon.
: 
