Das ist doch krank. Da kann man sagen was man will, die Regierung selbst steckt hinter solchen Sammelklagen und man muss sich das mal wirklich vor Augen führen was da gerade abläuft.
Ein IT'ler bewirbt sich bei einem Unternehmen als Administrator und die Bewerbung wird von einer KI durchgeführt. Kein Mensch, sondern eine KI. Eine KI für die der Bewerber am Ende eventuell arbeiten würde. Meint ihr nicht das dies etwas absurd ist? Und das ist keine Zukunftsmusik, das ist bereits verfügbar und wird eingesetzt. Eine Arbeitskollegin von mir hat sich bei einem IT Unternehmen in München beworben und sollte das Bewerbungsgespräch mit einer KI führen. Dafür sollte sie ihren Desktop zeigen und die Kamera einschalten. Sie hat das Gespräch direkt abgebrochen mit der Begründung das sie das Gespräch doch lieber mit einem Menschen führen würde als mit einer Maschine. Und ich kann sie da absolut verstehen.
Denk mal drüber nach was da eigentlich passiert. Du sitzt vor deinem Rechner, teilst deinen Bildschirm, machst die Kamera an und wirst dann von einer Maschine bewertet. Nach Kriterien die niemand offenlegt, nach Mustern die niemand nachvollziehen kann, mit einem Ergebnis für das sich am Ende niemand verantwortlich fühlt. Der Personaler sagt "die KI hat entschieden" und die KI sagt gar nichts, weil sie keine Rechenschaft ablegen muss. Verantwortung diffundiert komplett ins Nichts. Und dann sollst du bei genau dem Unternehmen anfangen zu arbeiten das dich so behandelt hat? Das ist nicht nur absurd, das ist auch ein ziemlich klares Signal wie das Verhältnis zu Mitarbeitern in Zukunft aussehen wird.
Was mich dabei zusätzlich stört ist die Kamera- und Desktopfreigabe. Da werden Daten aufgezeichnet, verarbeitet, wahrscheinlich zum Training weiter verwendet und keiner weiß so richtig was damit passiert. Man liefert sich einer Blackbox aus und darf hoffen dass am Ende was Vernünftiges rauskommt. Deine Kollegin hat richtig reagiert. Das ist keine Bewerbung mehr, das ist ein Datenscreening mit menschlichem Beiwerk.
Und genau hier liegt der eigentliche Wahnsinn: Die Unternehmen versuchen mit solchen Methoden Personalkosten zu sparen, aber sie sehen überhaupt nicht was sie damit wirklich anrichten. Kurzfristig spart man sich vielleicht ein paar Personaler und schafft mehr Bewerbungen in weniger Zeit ab. Klingt auf dem Papier super für den CFO. Aber was passiert langfristig? Die besten Kandidaten, also genau die die man eigentlich haben will, brechen ab wie deine Kollegin und suchen sich einen Arbeitgeber der sie noch wie Menschen behandelt. Übrig bleiben die, die keine Wahl haben oder es einfach über sich ergehen lassen. Man selektiert sich also aktiv die stärksten Bewerber weg und wundert sich dann warum die Qualität der Neueinstellungen sinkt.
Dazu kommt der Reputationsschaden. So eine Geschichte wie meiner Kollegin macht die Runde. Sie erzählt es dir, du erzählst es weiter, irgendwann steht das auf Kununu oder Glassdoor und schwupps hat die Firma einen Ruf weg als Laden bei dem man nicht mal für ein Gespräch mit einem Menschen für würdig befunden wird. In der IT wo Fachkräftemangel herrscht ist das geschäftsschädigend, aber der Controller sieht das nicht in seiner Excel Tabelle. Der sieht nur die eingesparten Personalkosten und ist stolz auf sich.
Und dann die Kultur die dabei entsteht. Wenn Mitarbeiter schon im Bewerbungsprozess merken dass sie nur eine Nummer für eine Maschine sind, mit welcher Loyalität sollen die dann später beim Unternehmen arbeiten? Warum sollen sie sich reinhängen, warum Überstunden machen, warum bei Problemen mitdenken, wenn das Unternehmen sie von Anfang an wie austauschbare Datensätze behandelt hat? Man züchtet sich die Dienst nach Vorschrift Mentalität selbst heran und beschwert sich dann über mangelndes Engagement. Das ist einfach nur dumm.
Der Punkt ist, die Rechnung geht mittel- und langfristig überhaupt nicht auf. Man spart an der einen Ecke ein paar Euro und verliert an drei anderen ein Vielfaches. Nur zeigt sich das eben nicht sofort im nächsten Quartalsbericht sondern erst über Jahre und deshalb interessiert es das Management nicht. Klassisches kurzfristiges Denken das die eigene Zukunft opfert.
Und jetzt kommt der Punkt wo ich einmal etwas differenzieren muss, auch wenn es unbequem ist: Die großen KI Konzerne machen aktuell meiner Meinung nach tatsächlich einiges richtig. Anthropic, OpenAI und Co investieren erhebliche Ressourcen in Alignment Forschung, in Red Teaming, in Sicherheitstests bevor Modelle raus gehen. Da wird intern jailbreakt, da werden Missbrauchsszenarien durchgespielt, da wird nachtrainiert wenn was durchkommt. Das ist mehr als die meisten anderen Branchen bei vergleichbaren Risiken tun. Der Vergleich zur Automobilbranche vor 30 Jahren oder zur Chemieindustrie zu ihren Anfangszeiten fällt eher zugunsten der KI Labore aus.
Das Problem sind nicht in erster Linie die Modellhersteller. Das Problem sind die Unternehmen die diese Modelle einsetzen ohne zu verstehen was sie da tun. Ein Bewerbungs KI Anbieter kauft ein Sprachmodell ein, packt eine Weboberfläche drum, verkauft es an Firmen die Personalkosten sparen wollen und niemand in dieser Kette hat sich ernsthaft gefragt ob das ethisch, rechtlich und praktisch überhaupt tragbar ist. Der Modellhersteller sagt "wir liefern nur die Technologie", der Anbieter sagt "wir integrieren nur", das Unternehmen sagt "wir nutzen nur ein Tool" und der Bewerber steht am Ende alleine da. Die Verantwortungslücke ist strukturell und die schließt sich nicht von selbst.
Genau deshalb bin ich bei den Modellherstellern gerade eher gnädig, aber bei den Anwendungsanbietern und den Unternehmen die das einkaufen richtig sauer. Da werden Standards gebraucht, da braucht es Haftung, da braucht es klare Regeln was mit KI entschieden werden darf und was nicht. Die EU versucht das mit dem AI Act, aber die Umsetzung hinkt der Realität hinterher.
Was mich am Fall meiner Kollegin am meisten beschäftigt: Ihre Reaktion war goldrichtig, aber sie ist die Ausnahme. Die meisten Bewerber werden es über sich ergehen lassen, aus Angst sonst gar keine Chance zu bekommen. Und je mehr Leute das mitmachen, desto normaler wird es. In fünf Jahren werden KI Interviews Standard sein und wer sich weigert gilt als unflexibel. Das ist genau die schleichende Normalisierung vor der ich am meisten Angst habe. Nicht dass KI kommt, sondern dass wir aufhören sie zu hinterfragen.
Aber schadet bestimmt auch nicht den Kommentaren und den Aufrufen hier, also alles richtig gemacht !
