Analysen · KI & Entscheidungsrisiken

KI im Recruiting: Effizienzmagnet oder systemisches Risiko?

Roger Kern
· 6 Min. Lesedauer

Weitere Analysen zu KI & Entscheidungsrisiken
Eine Person im HR-Bereich analysiert aufmerksam einen ausgedruckten Lebenslauf; symbolisiert die menschliche Urteilskraft gegenüber automatisierten KI-Rankings.
Trügerische Klarheit: Der Mensch prüft das Dokument, während der Algorithmus im Hintergrund bereits die Auswahl verzerrt hat. - REF-ID: BLOG-04

Künstliche Intelligenz kann die Vorauswahl von Bewerbungen beschleunigen. Doch ein überzeugendes Ranking ist noch kein Nachweis für eine faire oder sachgerechte Auswahl. Forschung zeigt Verzerrungen in bestimmten untersuchten Systemen und einen Einfluss voreingenommener Empfehlungen auf menschliche Entscheidungen.

Dieser Beitrag trennt Forschungsbefunde von unserer Interpretation für Unternehmen. Die Ergebnisse betreffen konkrete Modelle, Versuche und Aufgaben. Sie erlauben keine pauschale Bewertung aller Recruiting-Systeme oder sämtlicher Bewerbungsverfahren.


Inhaltsverzeichnis 15 Abschnitte

1. Bias im Recruiting: Was tatsächlich untersucht wurde

Forschungsbefund: Wilson und Caliskan untersuchten drei Textembedding-Modelle in einer simulierten Vorauswahl für neun Berufe. Solche Modelle vergleichen Texte anhand ihrer rechnerischen Repräsentationen. Bei ansonsten unveränderten Lebensläufen variierten die Forschenden Namen mit zugeschriebener ethnischer und geschlechtlicher Zugehörigkeit. Sie fanden Unterschiede in der Auswahl. [1]

Wichtige Berichtigung: Die Autoren erklären in ihrer Fassung vom August 2026, dass ein Codefehler die reinen Geschlechtervergleiche vertauschte. Aussagen über die Bevorzugung von Männern beziehungsweise Frauen müssen dort umgekehrt gelesen werden. Vergleiche zur ethnischen Zuschreibung und deren Kombination mit Geschlecht seien nicht betroffen. [1]

Untersucht wurde eine simulierte Vorauswahl, nicht die tatsächliche Einstellungspraxis aller verbreiteten KI-Produkte. Der begleitende Bericht der University of Washington fasst dieselbe Studie zusammen und ist keine unabhängige zweite Untersuchung.

Unsere Interpretation: Ein Ranking sollte deshalb anhand der konkreten Stellenanforderungen und des eingesetzten Systems geprüft werden. Eine statistisch erzeugte Reihenfolge ist für sich genommen kein Beleg für Eignung oder Fairness.


2. Plausible Sprache ist nicht gleich korrekte Bewertung

Einordnung aus einem Risikorahmen: NIST beschreibt, dass generative KI überzeugend vorgetragene falsche oder erfundene Inhalte erzeugen kann. Der Leitfaden ist keine Recruiting-Studie und misst nicht, wie oft dies in Bewerbungsverfahren vorkommt. [3]

Unsere Interpretation: Eine sprachlich saubere Begründung eines Bewerberrankings muss nicht sachlich richtig sein. Entscheidend ist, ob ihre Aussagen über Qualifikation und Passung anhand der Unterlagen überprüfbar sind. Eine nachträglich erzeugte Erklärung belegt zudem nicht automatisch, welche Kriterien das Ranking tatsächlich bestimmt haben.

Dabei sind unterschiedliche Systeme auseinanderzuhalten: Ein Textembedding-Modell für Ähnlichkeitsvergleiche arbeitet anders als ein generatives Sprachmodell, das eine Bewertung formuliert. Ein Befund über das eine ist nicht ohne Weiteres auf das andere übertragbar.


3. Stil und Kontext: Wo die Belege enden

Forschungsbefund: Wilson und Caliskan untersuchten auch Einflüsse der Dokumentlänge und der Häufigkeit von Namen. Daraus folgt kein allgemeiner Nachweis, dass nichtlineare Berufswege oder kulturell unterschiedliche Ausdrucksformen grundsätzlich schlechter bewertet werden. [1]

Ob abweichende Berufswege benachteiligt werden, ist eine eigenständige Forschungsfrage. Die hier zitierten Befunde beantworten sie nicht allgemein.

Unsere Prüffrage: Verändert sich die Bewertung, wenn bei gleicher fachlicher Eignung nur Formulierung, Länge oder Darstellung des Berufswegs geändert werden? Ob das eigene System solche Unterschiede erzeugt, muss am konkreten Verfahren untersucht werden. «Vielfalt wird systemisch benachteiligt» wäre ohne diese Eingrenzung zu pauschal.


4. Skalierung kann ungeprüfte Bewertungsfehler vervielfachen

Unsere Interpretation: Wird dasselbe ungeprüfte Kriterium auf viele Bewerbungen angewandt, kann derselbe Fehler wiederholt auftreten. Ein hypothetisches Beispiel wäre ein Filter, der eine berufliche Pause automatisch als fehlende Eignung wertet, obwohl diese Pause für die ausgeschriebene Aufgabe unerheblich ist.

Das ist ein mögliches organisatorisches Risiko, kein durch die genannten Studien gemessener Regelfall. Auch viele automatisierte Entscheidungen sind nicht grundsätzlich unkorrigierbar. Nachprüfbarkeit, gespeicherte Entscheidungsgrundlagen und ein funktionierender Korrekturweg können eine Überprüfung ermöglichen.

Unsere Empfehlung ist deshalb, auch ausgeschlossene Bewerbungen stichprobenartig zu prüfen. Wer nur die vorgeschlagene Shortlist betrachtet, kann übersehene geeignete Personen innerhalb dieses Ausschnitts nicht erkennen.


5. Menschliche Beteiligung verhindert Verzerrungen nicht automatisch

Forschungsbefund: Wilson, Sim, Gueorguieva und Caliskan untersuchten 528 Teilnehmende in einem Experiment zur Lebenslaufauswahl für 16 Berufe. Die Personen erhielten simulierte KI-Empfehlungen mit vorgegebenen Gruppenpräferenzen. Solche Empfehlungen beeinflussten ihre Auswahl; unter bestimmten Bedingungen zeigte sich dieser Einfluss auch bei Personen, die die Empfehlungen für wenig hilfreich hielten. [2]

Die Untersuchung misst Verhalten in einer kontrollierten Versuchsanordnung. Sie zeigt weder, dass alle Recruiter so handeln, noch wie häufig das in Schweizer Unternehmen geschieht. Die Einschätzung einer Empfehlung als wenig hilfreich ist ausserdem nicht dasselbe wie das bewusste Erkennen ihrer konkreten Verzerrung.

Unsere Interpretation: Ein «Human in the Loop» ist keine automatische Qualitätsgarantie. Menschliche Kontrolle muss eine Empfehlung tatsächlich hinterfragen und verwerfen können. Ob sie als Korrektiv wirkt, hängt von der Gestaltung des Verfahrens ab.


6. Was Unternehmen konkret tun sollten

Unsere Empfehlungen: Die folgenden Schritte sind unsere Ableitung für die Prüfung von Entscheidungslogik. Sie sind kein durch die genannten Studien validiertes Prüfverfahren und ersetzen keine fachliche oder rechtliche Prüfung des konkreten Einsatzes.

1) KI als Assistenz einsetzen und Auswahlkriterien festlegen

Vor dem Einsatz bestimmen, welche Informationen das System strukturieren soll und woran Eignung beurteilt wird. Unsere Position: Übernahmen oder Ausschlüsse dürfen nicht allein damit begründet werden, dass das System sie vorgeschlagen hat.

2) Verzerrungen am konkreten Verfahren prüfen

Vergleichbare Bewerbungen gezielt variieren und Ergebnisse nachvollziehbar auswerten. Den Prüfbedarf bei Änderungen an Modell, Daten, Kriterien oder Arbeitsablauf erneut beurteilen.

3) Transparenz über die Entscheidungsgrundlage schaffen

Festhalten, welche Kriterien, Unterlagen und Systemausgaben verwendet wurden. Sprachlich plausible Erklärungen durch überprüfbare Belege ergänzen.

4) Rechtliche Risiken im konkreten Einsatz klären

Vor dem Einsatz fachlich prüfen lassen, welche Anforderungen im jeweiligen Land und Verfahren gelten. Pauschale Verweise auf Datenschutzrecht oder den EU AI Act beantworten diese Frage nicht.

5) Menschliche Verantwortung praktisch verankern

Zuständigkeiten, Zeit und Befugnisse für die Überprüfung festlegen. Unsere Empfehlung: Menschen müssen Empfehlungen eigenständig beurteilen, ihnen widersprechen und Fehler korrigieren können.


Schweizer Kontext

Unsere Einordnung: Die beschriebenen Versuche sind keine Bestandsaufnahme des Schweizer Arbeitsmarkts. Für Schweizer Unternehmen lautet die praktische Frage dennoch: Entsprechen die Auswahlkriterien tatsächlich der Stelle, und bleiben begründete Abweichungen von der Systemempfehlung möglich?

Vertrauen und Arbeitgeberimage können dabei aus unserer Sicht betroffen sein. Einen bestimmten Schaden für Talentbindung oder Reputation haben die hier angeführten Studien jedoch nicht gemessen.


Fazit

Die Forschung belegt Verzerrungen unter bestimmten Testbedingungen und zeigt, dass Menschen voreingenommene Empfehlungen übernehmen können. Daraus folgt kein allgemeines Urteil, KI sei im Recruiting immer ungeeignet oder menschliche Prüfung grundsätzlich wirkungslos.

Unsere Schlussfolgerung: Effizienz ist kein ausreichendes Qualitätskriterium für eine Bewerberauswahl. Entscheidend ist, ob die Auswahl fachlich begründet, überprüfbar und korrigierbar bleibt. KI kann dabei unterstützen; ihre Ausgabe sollte die Prüfung der Entscheidungsgrundlage nicht ersetzen.


Reflexionsfrage zum Schluss

Wo in Ihrem Recruiting wird eine Systemempfehlung bereits als Begründung behandelt – und wer prüft, ob sie tatsächlich trägt?


nexoPreneur prüft die Entscheidungslogik hinter wiederkehrenden Problemen in automatisierten Auswahlprozessen: Welche Annahmen und Kriterien bestimmen die Auswahl, und welche Hinweise bleiben unberücksichtigt?


Quellen & weiterführende Literatur

Quellen und Aussagen zuletzt geprüft: 22. Oktober 2026. Die Berichtigung zu Quelle [1] vom August 2026 wurde berücksichtigt.

[1] Wilson, Kyra & Caliskan, Aylin (2024; Berichtigung August 2026)
Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval. AIES 2024. Verlinkt ist die PDF-Fassung mit vorangestellter Berichtigung. Simulierte Vorauswahl mit Textembedding-Modellen; keine allgemeine Messung aller Recruiting-Systeme.

[2] Wilson, Kyra; Sim, Mattea; Gueorguieva, Anna-Maria & Caliskan, Aylin (2025)
No Thoughts Just AI: Biased LLM Hiring Recommendations Alter Human Decision Making and Limit Human Autonomy. AIES 2025. Experiment mit simulierten KI-Empfehlungen; kein Feldversuch in Schweizer Personalabteilungen.

[3] NIST (2024)
Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1, insbesondere Abschnitt 2.2 «Confabulation». Risikorahmen zu generativer KI, kein empirischer Nachweis über Bewerberrankings.


Hinweis zur Erstellung: Dieser Beitrag wurde von Roger Kern konzipiert, geprüft und final bearbeitet. KI-Systeme wurden unterstützend für Struktur, Gegenperspektiven, SEO und sprachliche Varianten eingesetzt.

Alle Analysen nach Themen