Hochrisiko-Regeln des EU AI Act für HR-Tools: was erfasst ist, was verboten ist, mit Checkliste

Welche HR-Tools nach dem EU AI Act als Hochrisiko gelten

Anhang III des AI Act listet die Bereiche, in denen KI als Hochrisiko gilt, und Nr. 4 betrifft die Beschäftigung. Nr. 4 lit. a erfasst KI, die für die Einstellung oder Auswahl von Menschen bestimmt ist. Gemeint ist insbesondere KI, die gezielte Stellenanzeigen schaltet, Bewerbungen analysiert und filtert und Kandidat:innen bewertet. Nr. 4 lit. b erfasst KI, die für Entscheidungen über die Bedingungen von Arbeitsverhältnissen, über Beförderung oder Kündigung bestimmt ist. Ebenso erfasst ist KI, die Aufgaben nach individuellem Verhalten oder persönlichen Merkmalen zuteilt oder Leistung und Verhalten von Beschäftigten überwacht und bewertet.

Die Europäische Kommission hat am 19. Mai 2026 einen Leitlinienentwurf zu dieser Einstufung veröffentlicht. Die endgültigen Leitlinien werden bis Ende 2026 erwartet. Laut Zusammenfassungen der Kanzleien McCann FitzGerald und DLA Piper stuft der Entwurf mehrere Anwendungen als Hochrisiko ein. Dazu gehören Tools, die Kandidat:innen bewerten, reihen oder auf eine Shortlist setzen, per Profiling ausgespielte Stellenanzeigen, Schichtplaner, die Arbeit nach Verhaltenssignalen verteilen, und Systeme, die Vergütung nach Bewertungen anpassen. Employer Branding ohne Bezug zu einer konkreten Stelle, CV-Hilfen, die Bewerber:innen für sich selbst nutzen, und Onboarding-Chatbots, die Fragen zu Richtlinien beantworten, fallen nicht darunter. Dass am Ende ein Mensch zustimmt, ändert am Ergebnis nichts, wenn der KI-Output stark beeinflusst, wer weiterkommt oder wie Beschäftigte bewertet werden.

Art. 6 Abs. 3 sieht eine Ausnahme für Systeme nach Anhang III vor, die kein erhebliches Risiko darstellen. Beispiele sind Systeme, die eine eng begrenzte Verfahrensaufgabe erfüllen, eine bereits abgeschlossene menschliche Arbeit verbessern oder vorbereitende Arbeit leisten. Dazu zählen auch Systeme, die Abweichungen von früheren Entscheidungen markieren, ohne die menschliche Prüfung zu ersetzen. Die Ausnahme endet dort, wo Profiling beginnt: Ein System nach Anhang III, das Profiling betreibt, ist immer Hochrisiko. Einen Lebenslauf zu bewerten oder Leistung einzustufen heißt, persönliche Aspekte eines Menschen zu bewerten. Der Leitlinienentwurf nennt als mögliche Ausnahmen eine CV-Datenbank, die ohne Scoring organisiert wird, und die Terminierung von Interviews. Bei Tools für CV-Screening hängt die Antwort deshalb von der Funktion ab, nicht vom Produkt. Ein Anbieter, der sich auf die Ausnahme beruft, muss seine Einschätzung dokumentieren und das System registrieren.

Tools aus unserem Verzeichnis zeigen, wie das in der Praxis aussieht. TestGorilla bewertet jeden Lebenslauf nach Stellenkriterien auf einer Skala von 0 bis 5, rechnet das Ergebnis in ein Perzentil um und zeigt eine gereihte Shortlist. Genau das ist die Bewertung von Kandidat:innen, die Nr. 4 lit. a nennt. Textkernel trennt einen Parser, der Daten aus Lebensläufen ausliest, von einer Engine, die Menschen und Stellen abgleicht. Nur der Parser ähnelt den Verfahrensaufgaben, die der Entwurf als mögliche Ausnahmen nennt. 15Five entwirft Leistungsbeurteilungen aus seinen Performance-Daten. Das fällt wahrscheinlich unter Nr. 4 lit. b, auch wenn 15Five betont, dass jede Entscheidung ein Mensch trifft. Der OKR-Generator von Workpath (OKR steht für Objectives and Key Results) entwirft dagegen Ziele und bewertet niemanden.

Belege: [1][2][3][4][5][6][7][8][9][10]

Verboten seit dem 2. Februar 2025: Emotionserkennung am Arbeitsplatz

Art. 5 Abs. 1 lit. f verbietet KI-Systeme, die Emotionen einer Person am Arbeitsplatz oder in Bildungseinrichtungen ableiten, außer das System dient medizinischen oder Sicherheitszwecken. Der AI Act definiert ein Emotionserkennungssystem als System, das Emotionen oder Absichten anhand biometrischer Daten wie Gesicht oder Stimme erkennt oder ableitet. Art. 5 Abs. 1 lit. g enthält ein zweites Verbot, das für die Personalarbeit relevant ist. Es betrifft biometrische Kategorisierung, die Menschen anhand ihrer biometrischen Daten einordnet, um Rückschlüsse zu ziehen. Verboten sind Rückschlüsse auf ethnische Herkunft, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Orientierung. Beide Verbote gelten seit dem 2. Februar 2025. Verstöße können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist.

Die Leitlinien der Kommission zu verbotenen Praktiken vom 4. Februar 2025 sind nicht bindend, zeigen aber, wie das Verbot gelesen wird. Sie fassen den Arbeitsplatz weit und erfassen das gesamte Beschäftigungsverhältnis von der Einstellung bis zur Entlassung, einschließlich der Probezeit. Damit sind auch Bewerber:innen geschützt. Die Emotionen von Kund:innen zu erfassen, fällt nicht unter dieses Verbot, auch wenn solche Systeme trotzdem Hochrisiko sein können. Ebenfalls nicht erfasst ist das Ableiten von Emotionen aus geschriebenem Text, weil die Definition auf biometrischen Daten beruht.

Diese Grenze zählt bei Interview-Tools. Sapia.ai führt Chat-Interviews, die Soft Skills und Verhaltensmerkmale aus getippten Antworten bewerten. Damit liegt das Tool außerhalb des Verbots, als Bewertung von Kandidat:innen aber innerhalb von Nr. 4 lit. a. Bei Video-Tools sollten Sie fragen, was in den Score einfließt. HireVue hat Jahre vor dem Verbot aufgehört, die Mimik von Bewerber:innen in seinen Assessments zu nutzen. Fortune berichtete 2021, dass nonverbale Daten in den meisten Fällen etwa 0,25 Prozent zur Vorhersagekraft eines Modells beigetragen hatten.

Belege: [11][12][13][14][15][16][17][18]

Die neue Frist: 2. Dezember 2027 nach dem Digital-Omnibus

Der AI Act, Verordnung (EU) 2024/1689, ist am 1. August 2024 in Kraft getreten und gilt stufenweise. Zuerst kamen am 2. Februar 2025 die Verbote und die Pflicht zur KI-Kompetenz. Am 2. August 2025 folgten die Regeln für KI-Modelle mit allgemeinem Verwendungszweck. Die meisten übrigen Regeln gelten seit dem 2. August 2026, darunter die Durchsetzung und die Transparenzpflichten nach Art. 50.

Auch die Hochrisiko-Regeln für HR sollten an diesem Tag gelten, bis der Digital-Omnibus zur KI, Verordnung (EU) 2026/1744, sie verschob. Das Europäische Parlament stimmte am 16. Juni 2026 zu und der Rat am 29. Juni. Am 27. Juli 2026 trat der Omnibus in Kraft, 3 Tage nach seiner Veröffentlichung im Amtsblatt der EU. Hochrisiko-Systeme nach Anhang III, zu dem die Beschäftigung gehört, müssen die Regeln jetzt ab dem 2. Dezember 2027 erfüllen. Für Hochrisiko-KI in regulierten Produkten nach Anhang I gilt der 2. August 2028.

Die Verschiebung ändert das Datum, nicht die Pflichten. Art. 50 verlangt schon jetzt von Anbietern, KI-Systeme für den Kontakt mit Menschen entsprechend zu gestalten. Diese Menschen müssen erfahren, dass sie es mit einer KI zu tun haben, sofern das nicht offensichtlich ist. Das betrifft auch Chatbots im Kontakt mit Bewerber:innen. Neue Verbote für KI-erzeugte intime Bilder und Darstellungen sexuellen Kindesmissbrauchs gelten ab dem 2. Dezember 2026. Der Omnibus hat außerdem eine Rechtsgrundlage geschaffen, nach der Anbieter und Betreiber besondere Kategorien personenbezogener Daten verarbeiten dürfen, um Verzerrungen (Bias) zu erkennen und zu korrigieren. Dafür gilt ein strenger Maßstab der Erforderlichkeit.

Belege: [19][20][21][22][23][24][25][26]

Anbieter oder Betreiber: wer welche Pflichten hat

Der AI Act teilt die Pflichten zwischen Anbieter und Betreiber auf. Der Anbieter entwickelt ein System und bringt es unter eigenem Namen in Verkehr. Der Betreiber setzt es in eigener Verantwortung ein. Im Personalbereich ist das Unternehmen, das ein Screening- oder Beurteilungstool verkauft, meist der Anbieter und der Arbeitgeber der Betreiber. Anbieter tragen nach Art. 16 die schwerere Last. Sie müssen die technischen Anforderungen erfüllen, ein Qualitätsmanagementsystem betreiben, Dokumentation und Protokolle führen und eine Konformitätsbewertung bestehen. Dazu kommen eine EU-Konformitätserklärung, die CE-Kennzeichnung und die Registrierung des Systems.

Arbeitgeber haben in Art. 26 ihre eigene Liste. Sie müssen das System nach der Betriebsanleitung des Anbieters verwenden und die menschliche Aufsicht Personen übertragen, die die nötige Kompetenz, Ausbildung und Befugnis haben. Außerdem müssen sie sicherstellen, dass Eingabedaten, die sie kontrollieren, relevant und ausreichend repräsentativ sind. Sie müssen das System überwachen. Haben sie Grund zur Annahme, dass es ein Risiko darstellt, informieren sie den Anbieter und die Marktüberwachungsbehörde und setzen die Nutzung aus. Die Protokolle, die das System erzeugt, müssen sie mindestens 6 Monate aufbewahren, soweit diese Protokolle unter ihrer Kontrolle stehen.

Der AI Act ergänzt 2 Pflichten, die speziell die Arbeitswelt betreffen. Bevor ein Hochrisiko-System am Arbeitsplatz in Betrieb geht, muss der Arbeitgeber die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren. Auch Menschen, über die ein System nach Anhang III Entscheidungen trifft oder unterstützt, müssen davon erfahren. Nach Art. 86 kann eine Person, die durch eine solche Entscheidung Nachteile erleidet, vom Betreiber eine klare Erklärung zur Rolle der KI und zu den wesentlichen Elementen der Entscheidung verlangen.

Ein Arbeitgeber kann auch selbst zum Anbieter werden. Nach Art. 25 ist das der Fall, wenn ein Unternehmen seinen Namen auf ein Hochrisiko-System setzt oder es wesentlich verändert. Dasselbe gilt, wenn das Unternehmen die Zweckbestimmung eines Systems, also den vorgesehenen Zweck, so ändert, dass daraus ein Hochrisiko-System wird, auch bei einem System mit allgemeinem Verwendungszweck. Genau das sollten Sie prüfen, wenn jemand Bewerbungen mit einem allgemeinen Chatbot reiht. In HR-Suiten eingebaute Assistenten verdienen dieselbe Prüfung, und unser Vergleich der KI-Assistenten in HR-Suiten zeigt, welche Aufgaben sie heute übernehmen.

Belege: [12][27][28][29][30][31]

KI-Kompetenz: die Pflicht, die schon gilt

Art. 4 gilt seit dem 2. Februar 2025 für Anbieter und Betreiber jedes KI-Systems, ob Hochrisiko oder nicht. Er erfasst also schon ein Unternehmen, dessen Recruiter:innen einen Schreibassistenten nutzen. Der Digital-Omnibus hat den Artikel neu gefasst. Anbieter und Betreiber müssen nun Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals und anderer Personen zu fördern, die in ihrem Auftrag KI-Systeme betreiben. Zu berücksichtigen sind dabei Kenntnisse, Erfahrung und Ausbildung dieser Menschen sowie der Kontext, in dem die KI eingesetzt wird.

Laut den Fragen und Antworten der Kommission zur KI-Kompetenz, aktualisiert am 27. Juli 2026, bleibt die Pflicht bestehen. Ein bestimmtes oder ausreichendes Niveau ist aber nicht vorgeschrieben, und Anbieter und Betreiber müssen kein Niveau einzelner Personen garantieren. Für Betreiber von Hochrisiko-Systemen bleibt die Pflicht bestehen, Personal für die menschliche Aufsicht zu schulen. Ein Zertifikat ist nicht nötig. Eine interne Dokumentation der Schulungen und Anleitungen reicht aus. Die nationalen Marktüberwachungsbehörden beaufsichtigen die Pflicht ab August 2026.

In der Praxis heißt das: Schulung nach Rolle. Recruiter:innen, die KI-Rankings lesen, müssen wissen, wie das Ranking entsteht und wann sie es übersteuern sollten. Führungskräfte, die KI-Entwürfe für Beurteilungen erhalten, müssen wissen, was der Entwurf auslässt. Wer im HR-Betrieb Screening-Kriterien festlegt, muss verstehen, wie diese Einstellungen die Ergebnisse prägen. Die Schulung jeder Gruppe gehört in eine datierte Dokumentation.

Belege: [32][33][34][19]

Wie der EU AI Act Unternehmen außerhalb der EU erfasst

Der AI Act folgt dem Markt und dem Output, also den Ergebnissen der KI, nicht dem Firmensitz. Art. 2 Abs. 1 erfasst Anbieter, die KI-Systeme in der EU in Verkehr bringen, unabhängig von ihrem Sitz. Er erfasst außerdem Betreiber, die in der EU niedergelassen sind oder sich dort befinden. Dazu kommen Anbieter und Betreiber in Drittstaaten, wenn der Output des KI-Systems in der EU verwendet wird.

Ogletree Deakins, eine US-Kanzlei für Arbeitsrecht, zeigt, was das für US-Arbeitgeber ohne EU-Präsenz bedeutet. Erfasst sein können KI-Screening-Tools für Stellen, die Bewerber:innen aus der EU offenstehen. Dasselbe gilt für KI bei Entscheidungen über Leistung, Beförderung oder Kündigung von Beschäftigten in der EU. Auch globale HR-Plattformen mit KI-Funktionen, die Standorte in der EU nutzen, fallen darunter. Ein Anbieter außerhalb der EU, der ein Hochrisiko-System in die EU verkauft, muss nach Art. 22 zuvor schriftlich einen Bevollmächtigten in der Union benennen.

Dieselbe Logik gilt für Anbieter und Arbeitgeber in der Türkei, in Indien oder Brasilien. IKAI HR, das in der Türkei verkauft, bewertet Lebensläufe mit dem Modell Gemini 2.0 Flash von Google auf einer Skala von 0 bis 100. Der Anbieter wirbt mit der Einhaltung des türkischen Datenschutzgesetzes KVKK. Für Einstellungen in der Türkei liegt das Tool außerhalb des AI Act. Nutzt derselbe Arbeitgeber es aber, um Bewerbungen für eine Stelle in einem EU-Land zu reihen, erzeugt es Output, der in der Union verwendet wird. Regeln für die Personalauswahl außerhalb der EU funktionieren anders. Unser Leitfaden zu Bias-Audits bei KI im Recruiting erklärt die Regeln in New York City, Illinois und Colorado.

Nach Art. 2 Abs. 11 dürfen die Mitgliedstaaten außerdem Gesetze beibehalten oder einführen, die Beschäftigte stärker schützen als der AI Act. Sie dürfen auch Tarifverträge fördern, die das tun. Nationale Regeln zur Unterrichtung und Anhörung von Betriebsräten oder Gewerkschaften gelten deshalb zusätzlich zum AI Act weiter.

Belege: [35][36][37][38]

Checkliste: Hochrisiko-Pflichten des EU AI Act für HR-Teams

Beginnen Sie mit einer Bestandsaufnahme, denn die Einstufung folgt der Zweckbestimmung jeder einzelnen Funktion, nicht dem Produktnamen. Die Liste beginnt mit dieser Bestandsaufnahme und den Regeln, die schon gelten. Danach folgen die Pflichten ab dem 2. Dezember 2027. Die Fragen an die Anbieter gehören in die Demos und ebenso in die Verträge.

Verstehen Sie die Liste als Ausgangspunkt für Ihre eigene rechtliche Prüfung. Wo es eine Arbeitnehmervertretung gibt, beziehen Sie sie ein, bevor ein Tool live geht, denn Art. 26 Abs. 7 verlangt ohnehin, sie zu informieren.

Belege: [29][28][2][19]