Zweite Sonja
Lt. Junior Grade
- Registriert
- Jan. 2026
- Beiträge
- 265
Das ist aber im erwähnten medizinischen Bereich ebenfalls so.misterk87 schrieb:Ja aber genau das ist ja das Problem: es wird eben daran gearbeitet bzw passiert es schon, dass die ki eben nicht überprüft wird und autonom Entscheidungen trifft. Darauf wollte ich hinaus.
Wenn die Maschine bestimmte Werte ausgibt, werden sie vom Arzt hingenommen und auf Basis dieser Werte die Behandlung vorgenommen. Genauso wie in sehr vielen anderen Bereichen bei der Qualitätskontrolle, nehmen Maschinen, Software, KI die Bewertung vor und drücken es in einer Kennzahl, Farbe oder Begriff aus. Der Mensch verlässt sich auf das Ergebnis. Man könnte es prüfen, aber aus wirtschaftlichen Gründen auch unterlassen. Je nach Risiko.
So wie auch von anderen erwähnt, muss das Ergebnis einer Maschine / KI beim Militär ebenso wie in allen anderen Bereichen geprüft werden. Eine Unterlassung ist die Entscheidung eines Menschen. Also wird immer der Mensch schuld bleiben und nicht die KI.
Ein KI-Gerät, was mit Wärmebild auf alles schießt, was warm ist, ist nicht die Schuld der KI, sondern nur des Menschen, weil dieser das Gerät bewusst platziert und aktiviert hat.
In anderen Fällen könnte die KI aber so weit entwickelt sein, dass sie weniger Fehler als der Mensch macht und somit wäre es eher fahrlässig, einen Menschen die Entscheidung treffen zu lassen.
Falls die Entscheidung falsch war, könnte man zwar sagen, dass es die KI war, aber wenn man einen Menschen eingesetzt hätte, wären mehr Entscheidungen falsch gewesen. Deshalb sind weniger Fehler durch KI besser als mehr Fehler durch Menschen.
Bei der Schuldfrage bleibt es dabei:
Wenn der Mensch einen Fehler macht, ist er direkt schuld.
Wenn eine KI einen Fehler macht, ist der Mensch indirekt schuld, weil er die KI einsetzt.
Kurz gesagt:
Pauschale Aussagen bringen nichts.
Wo die KI schlecht ist, muss der Mensch kontrollieren.
Wo der Mensch schlecht ist, muss die KI kontrollieren.
Das Optimum ist aber immer eine Kombination.
Leider gibt es viel zu häufig nur eine Schwarz-Weiß-Ansicht über KI.
Die Realität ist aber immer irgendwo dazwischen und mit der Zeit und Entwicklung entwickelt sich eine Tendenz.