Wow, die Kommentare hier...meine Güte. Man muss Maas ja wirklich nicht mögen, aber hier liegt er "zufällig" mal richtig, ob es ihm jetzt bewusst ist oder nicht. Dieses Thema ist wohl eines der wichtigsten der jetzigen Generation und wegweisend für die zukünftigen Generationen. Warum? Ok, ich versuchs mal in knappen Worten, verzeiht den WallofText:
hier gehts konkret um Themen wie Strafverfolgung, Bonität, Versicherungen, Job und andere kleinere Bedeutungslosigkeiten in unserem Leben. China machts vor mit ihrem Punktesystem des "braven Bürgers", in den USA gibts das Kreditwürdigkeitsranking schon lange und führt zu ungeahnten Absurditäten (z.b. wegen Namensverwechslungen usw.) welche ganze Existenzen zerstören (wers nicht weis, in den USA bist du ohne Kreditwürdigkeit ökonomisch tot, egal wieviel Geld du in der Hosentasche hast).
Alle oben genannten Branchen, die meisten bei uns privatwirtschaftlich organisiert, streben danach Menschen anhand von Daten zu bewerten und einzuordnen. Das Problem? Die Daten sind unvollständig, mitunter sogar fehlerhaft oder gar absichtlich irreführend (z.b. extra falsch eingegeben).
Jetzt kommen da noch allerlei Teildatensätze dazu die das Problem um Größenordnungen verstärken (deine Bonuspunktedaten des Supermarkts, dein Fitnessarmband, FB Postings usw., die liefern kaum ein vollständiges Bild über dich).
Selbst wenn die Daten PERFEKT wären führen sie in bestimmten Bereichen (z.b. Medizin) automatisch zu Diskriminierung (Privatversicherung teurer bei chronischen Krankheiten, % Chance dass dein Kind das auch hat = Kind hat teurere Prämie obwohl es nicht krank ist)
Was wir also benötigen ist TRANSPARENZ und das Recht nachvollziehen zu können welche Daten in den Pool einfliesen, wie sie gewichtet werden, wer sie auswertet und wie stark die Entscheidung darauf basiert. Das läuft aber meist als Betriebsgeheimnis, zumindest bisher. Wer also einen Alg. wie um- und einsetzt ist wichtig, verleiht ungeahnte Macht und damit auch Missbrauchspotenzial.
Google News, als harmloses Beispiel, gibt mir dramatisch unterschliedliche Nachrichten je nach dem ob ich hinterm VPN sitze oder nicht, den meisten Leuten ist das nicht mal bewusst, das muss man schonmal testen ums zu glauben.
Darauf basieren aber Entscheidungen von Leuten, Information ist die Grundlage jedes Handelns.
Gut, hat man ja noch die menschliche Schnittstelle, richtig? Wenn wir also an das gute im Menschen glauben kann nichts schief gehen, der Computer gibt ja nur eine Empfehlung, korrekt?
Falsch. Die Richtung ist klar, KI soll Bewertung und Einstufung übernehmen (ist ja unparteiisch), "machine learning" soll dabei die KI ausbilden dies zu tun, d.h. man kann aber kaum mehr nachvollziehen wie die KI die Entscheidung getroffen hat (dazu gabs hier eh auch schon einen Artikel vor kurzem).
Ok, KI ist aber unparteiisch. Nein, ist sie nicht. Kürzlich hatten wir einige Experimente mit KI in sozialen Medien, um ein Beispiel zu nennen. Was hat die KI gelernt? Pöbeln, diskriminieren, lügen. KI ist nicht automatisch ein Heiliger nur weil es ein Computer ist.
Na, formt sich langsam ein Bild? Ich habe hier auch nicht die Lösung, aber es ist gut dass mal öffentlich darüber nachgedacht wird. Ob es Maas dann trotzdem verbockt? Vermutlich, aber wenigstens wirds mal Thema, denn hinter den Kulissen ist alles in EINE Richtung unterwegs, "AI evaluation driven by BigData".
