KI-Kündigungs-Empfehlung — Hochrisiko nach Annex III

Use-Case-Definition

Gegenstand dieser Page sind KI-Systeme, die eine Empfehlung oder eine bewertende Grundlage für die Beendigung eines Arbeitsverhältnisses liefern — etwa Systeme, die Beschäftigte anhand aggregierter Leistungs-, Anwesenheits- oder Verhaltensdaten für einen Personalabbau priorisieren, Kandidatenlisten für betriebsbedingte oder verhaltensbedingte Kündigungen erzeugen oder ein „Attrition-" bzw. „Flight-Risk"-Scoring in Trennungsentscheidungen einfließen lassen. Erfasst ist der Use-Case unabhängig davon, ob das System die Kündigung formal ausspricht: Es genügt, dass die Ausgabe dazu bestimmt ist, eine Beendigungsentscheidung zu beeinflussen. Abzugrenzen ist der Fall von reiner Performance-Bewertung im laufenden Verhältnis (eigene Page), von algorithmischer Aufgabenzuweisung und von Recruiting-Screening vor Einstellung. Alle berühren denselben Annex-III-Bereich, bilden aber je eigene Use-Cases mit eigenem Pflichtenprofil.

Annex-III-Verortung

Der Use-Case ist in Annex III Nr. 4 des EU AI Act (Verordnung (EU) 2024/1689) verortet — dem Bereich „Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit". Der Wortlaut erfasst dort ausdrücklich KI-Systeme, die dazu bestimmt sind, Entscheidungen über die Bedingungen von Arbeitsverhältnissen, über Beförderung oder über die Beendigung von Arbeitsvertragsverhältnissen zu treffen. Ein System, das Kündigungen empfiehlt, vorbereitet oder priorisiert, ist damit unmittelbar von diesem Tatbestand erfasst. Maßgeblich ist die Zweckbestimmung durch den Provider und der tatsächliche Einsatz durch den Deployer, nicht die technische Bezeichnung des Systems. Auch ein als „Entscheidungsunterstützung" gekennzeichnetes Werkzeug bleibt Hochrisiko, wenn seine Ausgabe für Trennungsentscheidungen bestimmt ist.

Warum Hochrisiko

Die Beendigung eines Arbeitsverhältnisses ist einer der eingriffsintensivsten personalrechtlichen Vorgänge überhaupt. Sie betrifft die wirtschaftliche Existenz der betroffenen Person, ihren Zugang zu sozialer Sicherung und ihre berufliche Zukunft. Der EU-Gesetzgeber ordnet diesen Bereich als hochriskant ein, weil KI-gestützte Empfehlungen hier über eine bloße Bewertung hinaus in ein konkretes, oft irreversibles Ergebnis münden.

Der zentrale Risiko-Mechanismus ist die verdeckte Reproduktion und Verstärkung bestehender Verzerrungen. Modelle, die auf historischen Personaldaten trainiert sind, übernehmen die Muster früherer Trennungsentscheidungen — einschließlich möglicher diskriminierender Muster nach Geschlecht, Alter, Herkunft, Behinderung oder Gewerkschaftszugehörigkeit. Proxy-Variablen wie Teilzeitquote, Fehlzeiten wegen Elternschaft oder Krankheit oder Standort können geschützte Merkmale mittelbar abbilden, ohne sie ausdrücklich zu nennen. Hinzu kommt das Risiko des Automation Bias: Eine algorithmisch erzeugte Kündigungsliste wirkt objektiv und wird von Entscheidern seltener hinterfragt, obwohl sie auf lückenhaften oder kontextfreien Daten beruhen kann.

Betroffen sind damit mehrere Schutzgüter zugleich: das Diskriminierungsverbot, der Schutz personenbezogener Daten, die Menschenwürde am Arbeitsplatz und der Anspruch auf eine faire, nachvollziehbare Entscheidung. Genau diese Kombination begründet die Hochrisiko-Einstufung — nicht die eingesetzte Technik als solche.

Pflichten für Provider

Wer ein solches System entwickelt und in der EU in Verkehr bringt, trägt die Provider-Pflichten aus Kapitel III des EU AI Act. Vor dem Inverkehrbringen ist ein Risikomanagementsystem über den gesamten Lebenszyklus einzurichten (Art. 9), das die spezifischen Diskriminierungs- und Fehlentscheidungsrisiken dieses Use-Cases adressiert. Die Trainings-, Validierungs- und Testdaten unterliegen den Data-Governance-Anforderungen aus Art. 10 — einschließlich der Prüfung auf Verzerrungen und der Repräsentativität für die tatsächliche Belegschaft.

Weiter sind technische Dokumentation (Art. 11), automatische Protokollierung (Art. 12), Transparenz- und Gebrauchsanweisungen (Art. 13), wirksame menschliche Aufsicht durch Design (Art. 14) sowie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit (Art. 15) sicherzustellen. Das System durchläuft eine Konformitätsbewertung, erhält die CE-Kennzeichnung und wird in der EU-Datenbank registriert. Die Gebrauchsanweisung muss den Deployer in die Lage versetzen, das System korrekt einzusetzen und seine Grenzen zu verstehen — etwa welche Eingabedaten geeignet sind und welche Aussagekraft eine Empfehlung tatsächlich hat.

Pflichten für Deployer

Der einsetzende Arbeitgeber ist Deployer und trägt die Pflichten aus Art. 26. Das System ist entsprechend der Gebrauchsanweisung zu betreiben, mit relevanten und hinreichend repräsentativen Eingabedaten zu versorgen und laufend zu überwachen. Automatisch erzeugte Logs sind aufzubewahren. Entscheidend ist die wirksame menschliche Aufsicht: Eine Kündigungsempfehlung darf nicht ungeprüft übernommen werden. Die letztverantwortliche personalrechtliche Entscheidung muss bei einem Menschen liegen, der die Empfehlung inhaltlich prüfen, hinterfragen und verwerfen kann.

Speziell im Beschäftigungskontext verlangt Art. 26 Abs. 7, dass betroffene Beschäftigte und ihre Vertretungen vor der Inbetriebnahme informiert werden. Nationale Mitbestimmungsrechte bleiben unberührt und treten hinzu — in Deutschland etwa die Beteiligungsrechte des Betriebsrats, in anderen Rechtsräumen (EU27-Rest, CH) die jeweiligen arbeits- und datenschutzrechtlichen Konsultationspflichten. Ist der Deployer eine öffentliche Stelle oder erbringt er öffentliche Dienste, kommt eine Grundrechte-Folgenabschätzung nach Art. 27 in Betracht. Unabhängig davon greifen die Betroffenenrechte der DSGVO, insbesondere die Vorgaben zu automatisierten Einzelentscheidungen.

Was Audits prüfen

• Zweckbindungs-Nachweis: Dokumentation, dass Systemzweck und tatsächlicher Einsatz übereinstimmen und die Ausgabe nicht über die freigegebene Verwendung hinaus in Trennungsentscheidungen einfließt.
• Bias- und Fairness-Evidenz: Ergebnisse der Verzerrungsprüfung nach Art. 10, aufgeschlüsselt nach relevanten Gruppen, samt Proxy-Analyse.
• Menschliche Aufsicht in der Praxis: Belege, dass Empfehlungen tatsächlich geprüft und dokumentiert überstimmt werden können — nicht nur formal, sondern nachweisbar im Einzelfall.
• Logging und Rückverfolgbarkeit: lückenlose Protokolle, die eine einzelne Empfehlung auf Eingabedaten, Modellversion und Zeitpunkt zurückführen.
• Information und Konsultation: Nachweis der Unterrichtung von Beschäftigten und Vertretungen nach Art. 26 Abs. 7 sowie der nationalen Mitbestimmung.
• Datengrundlage: Herkunft, Aktualität und Repräsentativität der Eingabedaten für die konkrete Belegschaft.

Konforme Architektur

Eine konforme Implementierung trennt Empfehlung und Entscheidung strikt: Das System liefert eine begründete, überprüfbare Ausgabe, die Entscheidung bleibt beim Menschen und wird als eigener, dokumentierter Schritt erfasst. Jede Empfehlung sollte mit einer nachvollziehbaren Begründung und den maßgeblichen Einflussfaktoren versehen sein, damit die aufsichtsführende Person sie inhaltlich prüfen kann statt sie nur abzunicken. Ein manipulationssicheres Evidenz- und Protokoll-Layer hält Eingaben, Modellversion, Ausgabe und die menschliche Entscheidung revisionssicher zusammen — die Grundlage dafür, dass eine Empfehlung später gegenüber Aufsicht, Betriebsrat oder Gericht belastbar rekonstruiert werden kann.

Konzeptionell bildet ein solches Design den Kern von Trust-Infrastructure: Nicht das Modell allein, sondern die nachweisbare Kette aus Datenherkunft, Bewertung, menschlicher Aufsicht und lückenloser Protokollierung macht den Einsatz audit-ready. Compliance ist dann die Folge dieser Nachweisbarkeit, nicht das Ziel für sich.

Praxis-Templates für Risk Assessments und Vendor-Fragebögen im HR-Kontext: ki-hochrisiko.de. Gesamtkontext zum EU AI Act: Leitfaden auf eu-ai-verordnung.de.

AEGIRA AI Navigator unterstützt die Risikoklassifizierung und Pflicht-Ableitung für Annex-III-Use-Cases — aegira.ai.