CV-Screening im Recruiting — Hochrisiko-KI nach Annex III

Use-Case-Definition

Unter CV-Screening verstehen wir KI-Systeme, die eingehende Bewerbungen automatisiert sichten, filtern oder vorrangig sortieren — bevor ein Mensch sie liest. Typische Funktionen reichen vom regelbasierten Keyword-Matching bis zu lernenden Modellen, die Lebensläufe gegen ein Idealprofil bewerten und Kandidat:innen ranken. Abzugrenzen ist der Use-Case von rein administrativen Hilfsmitteln (z. B. PDF-Parsern, die nur Text extrahieren, ohne zu bewerten) und von vollautomatisierten Einstellungs-Entscheidungen ohne menschliche Letztprüfung — letztere überlagern den Hochrisiko-Tatbestand zusätzlich mit Anforderungen aus Art. 22 DSGVO.

Annex-III-Verortung

Der Use-Case ist in Annex III Nr. 4 des EU AI Act (Verordnung (EU) 2024/1689) verortet — dem Bereich „Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit". Erfasst sind dort ausdrücklich KI-Systeme, die zur Einstellung oder Auswahl natürlicher Personen verwendet werden, insbesondere zur gezielten Schaltung von Stellenanzeigen, zur Sichtung und Filterung von Bewerbungen sowie zur Bewertung von Bewerber:innen. CV-Screening fällt damit klassisch unter diesen Tatbestand — unabhängig davon, ob das Modell die Endentscheidung trifft oder „nur" eine Vorauswahl liefert.

Warum Hochrisiko

CV-Screening berührt zwei sensible Grundrechtskreise gleichzeitig. Erstens den Diskriminierungsschutz: Trainingsdaten aus historischen Einstellungs-Entscheidungen tragen die strukturellen Verzerrungen vergangener Auswahlprozesse in sich. Modelle reproduzieren so Muster, die nach geschützten Merkmalen (Geschlecht, Alter, Herkunft, Behinderung) korrelieren — auch ohne dass diese Merkmale je als Feature im Modell stehen. Proxy-Variablen wie Postleitzahl, Karrierelücken oder Hochschulname genügen.

Zweitens den Schutz informationeller Selbstbestimmung der Bewerber:innen: Die Bewertung erfolgt auf Basis von Daten, die ursprünglich für einen klar definierten Zweck (Bewerbung um eine konkrete Stelle) gegeben wurden — und wird durch das Modell in eine quantifizierte Entscheidungslogik überführt, deren Funktionsweise weder Antragsteller noch oft die einsetzende HR-Organisation vollständig verstehen.

Der dritte Risiko-Mechanismus liegt in der Aggregation: Ein einzelnes falsches Ranking ist unangenehm, aber lokal. Ein systematisches Bias-Muster über tausende Bewerbungen hinweg ist ein struktureller Eingriff in Chancengleichheit am Arbeitsmarkt. Genau deshalb behandelt der EU AI Act diese Anwendungen nicht als Standard-Datenverarbeitung, sondern als Hochrisiko-System mit eigenem Pflichtenkatalog.

Pflichten für Provider

Wer ein CV-Screening-System entwickelt und unter eigenem Namen am EU-Markt anbietet, ist Provider im Sinne von Art. 3 EU AI Act und trägt den Hauptteil der Pflichten aus Kapitel III Abschnitt 2. Dazu gehören ein dokumentiertes Risikomanagementsystem über den gesamten Lebenszyklus (Art. 9), Anforderungen an Daten und Datenqualität (Art. 10), eine technische Dokumentation nach Annex IV (Art. 11), Logging-Funktionen (Art. 12), Transparenz- und Informationspflichten gegenüber Deployern (Art. 13), Vorkehrungen für menschliche Aufsicht (Art. 14) sowie Mindestanforderungen an Genauigkeit, Robustheit und Cybersicherheit (Art. 15).

Praxis-Konsequenz für CV-Screening-Tools: Die Modell-Performance muss nicht nur global, sondern entlang relevanter Subgruppen evaluiert und dokumentiert werden. Datenverarbeitungs-Pipelines benötigen reproduzierbare Train/Test-Splits, dokumentierte Feature-Engineering-Schritte und einen Audit-Trail für Modell-Updates. Vor Marktbereitstellung sind Konformitätsbewertung und CE-Kennzeichnung nach Art. 43 erforderlich, eine Eintragung in die EU-Datenbank (Art. 49) sowie ein Qualitätsmanagementsystem (Art. 17).

Pflichten für Deployer

Auch der einsetzende Arbeitgeber — Deployer im Sinne der Verordnung — ist nicht aus der Pflicht. Art. 26 EU AI Act verlangt unter anderem, das System gemäß Anbieter-Instruktionen zu betreiben, qualifizierte Personen mit der menschlichen Aufsicht zu betrauen, die Input-Daten auf Plausibilität zu prüfen, Vorfälle und Fehlfunktionen zu protokollieren und die automatisch erzeugten Logs aufzubewahren.

Speziell für CV-Screening kommen flankierende Pflichten hinzu, die nicht aus dem AI Act, aber aus benachbartem Recht stammen: Information der betroffenen Bewerber:innen nach DSGVO Art. 13/14, Beteiligung des Betriebsrats nach § 87 BetrVG (in Deutschland), Anforderungen an automatisierte Einzelentscheidungen nach Art. 22 DSGVO falls keine menschliche Vorprüfung vorgesehen ist, sowie nationale Antidiskriminierungs-Vorgaben (AGG in DE, GlBG in AT, GlG in CH — letzteres außerhalb des direkten AI-Act-Geltungsbereichs, aber faktisch wirksam für CH-Provider auf EU-Märkten).

Zentral ist außerdem die Grundrechte-Folgenabschätzung nach Art. 27 für bestimmte Deployer (öffentliche Stellen und private Betreiber wesentlicher Dienste) — bei CV-Screening also typischerweise für öffentliche Verwaltungen, einschlägige Großunternehmen und regulierte Branchen.

Was Audits prüfen

Wenn eine notifizierte Stelle oder eine Marktüberwachungsbehörde ein CV-Screening-Tool prüft, sind erfahrungsgemäß folgende Evidenzen entscheidend:

• Bias- und Fairness-Reports je Modell-Version mit dokumentierter Methodik (z. B. Demographic Parity, Equal Opportunity) und Schwellenwert-Begründung — nicht nur Single-Number-Metriken.
• Datensatz-Datasheets mit Herkunft, Erhebungszeitraum, Repräsentativitäts-Analyse und Begründung der Trainingsdaten-Auswahl entlang Art. 10 Abs. 3.
• Test-Suiten für Subgruppen-Performance mit reproduzierbaren Test-Sets und Versions-Pinning — der Auditor muss die Tests selbst nachvollziehen können.
• Audit-Logs für jede einzelne Modell-Inferenz inklusive Input-Features, Modell-Version, Output-Score und Zeitstempel (Art. 12), aufbewahrt nach Vorgaben in den Anbieter-Instruktionen.
• Human-Oversight-Protokoll: schriftlich dokumentierter Eskalationsweg, Schulungsnachweise der HR-Personen, Belege für Override-Möglichkeiten und tatsächliche Override-Häufigkeit.
• Vorfall-Register mit dokumentierten Meldewegen an Provider und ggf. Marktüberwachung nach Art. 73 (serious incident reporting).

Konforme Architektur

Eine compliant Architektur für CV-Screening trennt drei Schichten sauber: eine deterministische Vor-Filterung auf objektive Hard Criteria (Berufszulassung, gesetzliche Mindestqualifikation), eine Scoring-Schicht mit dem KI-Modell, die nur Empfehlungen und keine Letztentscheidungen liefert, sowie eine Human-in-the-Loop-Schicht, in der eine geschulte Person die Auswahl trifft und dokumentiert. Modell-Outputs werden nicht als binäre Ja/Nein-Entscheidung exponiert, sondern als kalibrierter Score mit Konfidenzintervall, ergänzt um lokale Erklärungen (z. B. SHAP) für die jeweils gewichteten Features.

Querschnittlich liegen darüber ein versioniertes Modell-Registry mit verbindlicher Freigabe-Pipeline, ein zentrales Logging der Inferenzen mit klarem Aufbewahrungsschema, ein automatisiertes Subgruppen-Monitoring im Betrieb (Drift-Detection auf Fairness-Metriken, nicht nur auf Accuracy) sowie ein Incident-Response-Prozess, der Marktüberwachung und Provider gleichermaßen adressiert. Diese Schichten erzeugen die Evidenz, die das Hochrisiko-Regime erwartet — und gleichzeitig die Nachweise, die der Forcing Event am 02.12.2027 für die Enforcement-Realität liefern muss.

Mehr Kontext zum EU AI Act gesamt: Leitfaden auf eu-ai-verordnung.de. Praxis-Templates und Checklisten zu Hochrisiko-Compliance findest du auf ki-hochrisiko.de.

AEGIRA AI Navigator unterstützt die Risikoklassifizierung und Pflicht-Ableitung für Annex-III-Use-Cases — Evidence-based AI Trust, nachweisbar und audit-ready: aegira.ai.