Die Fragen, die Recruiter stellen
- Darf ich Lebensläufe mit KI sichten?. Ja, sofern Sie die Kandidaten informieren und die KI niemanden allein ablehnen lassen.
- Was sage ich den Kandidaten?. Dass KI an der Bearbeitung ihrer Bewerbung beteiligt ist, in welchem Schritt und wie sie ihre Rechte ausüben können.
- Wie begründe ich eine Entscheidung?. Eine Bewertung, die sich nicht erklären lässt, ist schwer zu verteidigen, wenn ein Kandidat sie anficht.
Die Grundsätze, die Sie beachten sollten
- Informieren. Kandidaten müssen wissen, dass KI beteiligt ist. Bei Delectus wird jeder Anruf, jeder SMS-Austausch und jedes von einem Agenten geführte Interview als automatisiert angekündigt.
- Die Entscheidung menschlich lassen. Die DSGVO schränkt vollständig automatisierte Entscheidungen ein. Das Tool ordnet ein und bewertet; der Recruiter entscheidet.
- Erklären. Jede Einordnung und jede Bewertung beruht auf zitierten Stellen aus Lebenslauf oder Interview.
- Daten minimieren. Nur verarbeiten, was dem Einstellungsprozess dient, und für eine festgelegte Dauer aufbewahren.
KI im Recruiting: wer was übernimmt
Die Pflichten teilen sich das einstellende Unternehmen und der Anbieter des Tools. Diese Tabelle fasst die wichtigsten Punkte zusammen; sie ersetzt nicht die Beratung durch Ihre Rechtsberatung.
| Thema | Einstellendes Unternehmen | Anbieter des KI-Tools |
|---|---|---|
| Kandidaten informieren | Informiert Kandidaten über den Einsatz von KI und ihre Rechte | Stellt die dafür nötige Dokumentation bereit |
| Zweck und Kriterien | Definiert die Stelle und die Bewertungskriterien | Wendet nur die vorgegebenen Kriterien an |
| Entscheidung | Trifft die Entscheidung durch eine befugte Person | Erklärt Einordnungen und Bewertungen |
| Daten | Legt Aufbewahrungsfristen fest, beantwortet Anfragen von Kandidaten | Hostet und sichert die Daten gemäß Vertrag |
| Dokumentation | Führt das Verarbeitungsverzeichnis, erstellt bei Bedarf die Folgenabschätzung | Dokumentiert Funktionsweise und Grenzen des Tools |
Was die DSGVO im Recruiting verlangt
Mit oder ohne KI fällt die Verarbeitung von Bewerbungen unter die DSGVO. Diese Pflichten gab es lange vor KI-Tools, und sie gelten für sie in gleicher Weise.
- Kandidaten über die Verwendung ihrer Daten und ihre Rechte informieren
- Nur die Informationen erheben, die zur Beurteilung der Bewerbung nötig sind
- Eine Aufbewahrungsfrist festlegen, dann löschen oder anonymisieren
- Den Zugriff auf Kandidatendaten absichern
- Anfragen auf Auskunft, Berichtigung und Löschung beantworten
Was das französische Arbeitsgesetzbuch zu Auswahlmethoden sagt
Schon vor DSGVO und AI Act regelt das französische Arbeitsgesetzbuch die Einstellung. Von einem Kandidaten angeforderte Informationen dürfen nur dazu dienen, seine Eignung für die Stelle und seine beruflichen Fähigkeiten zu beurteilen, und sie müssen in direktem und notwendigem Zusammenhang mit der angebotenen Stelle stehen.
Kandidaten müssen außerdem vor deren Einsatz darüber informiert werden, welche Auswahlmethoden und -techniken bei ihnen angewendet werden, und diese Methoden müssen ihrem Zweck angemessen sein. Ein KI-Tool ist eine Auswahltechnik. Sein Einsatz muss offengelegt werden, und es muss sich auf die Stelle konzentrieren.
Automatisierte Entscheidungen: was Artikel 22 DSGVO sagt
Die DSGVO gibt jeder Person das Recht, keiner ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Die Ablehnung eines Kandidaten fällt in diese Kategorie.
Eine KI darf also einordnen und zusammenfassen, aber ein Mensch muss die Bewerbungen tatsächlich prüfen und die Entscheidung treffen. Ein reines Abnicken ohne echte Prüfung genügt nicht. Deshalb lehnt Delectus nie selbst einen Kandidaten ab und stützt jede Bewertung auf Elemente, die der Recruiter überprüfen kann.
Der AI Act und das Recruiting
Die EU-KI-Verordnung (AI Act) stuft KI-Systeme, die zur Einstellung und Auswahl von Kandidaten eingesetzt werden, als hochriskant ein. Sie verlangt unter anderem menschliche Aufsicht, Transparenz und eine Dokumentation des Systems.
Diese Anforderungen haben die Gestaltung von Delectus geprägt. Jedes Ergebnis lässt sich erklären, und jeder automatisierte Schritt lässt dem Recruiter die Freiheit, die Vorschläge der KI zu prüfen, zu korrigieren oder beiseitezulegen.
Kandidaten informieren: ein Musterhinweis
„Ihre Bewerbung wird von [Unternehmen] für die Stelle [Stellenbezeichnung] bearbeitet. Tools mit künstlicher Intelligenz helfen uns, Bewerbungen zu analysieren und Interviews vorzubereiten. Die Entscheidungen trifft unser Team. Ihre Daten werden für [Dauer] aufbewahrt, und Sie können Ihre Rechte auf Auskunft, Berichtigung und Löschung unter [Kontakt] ausüben.“
An Ihre Situation angepasst und von Ihrer Rechtsberatung geprüft, gehört ein solcher Hinweis in die Stellenanzeige oder auf die Bewerbungsseite.
SMS- und Voice-Agenten: die KI ab der ersten Nachricht offenlegen
Wenn eine KI einen Kandidaten kontaktiert, muss der Hinweis vor dem Gespräch kommen, nicht danach. Bei Delectus sagt die erste Nachricht des Vorqualifizierungs-Agenten, per SMS oder WhatsApp, dass es sich um eine KI handelt, und bittet um die Einwilligung des Kandidaten zur Verarbeitung seiner Daten. Auch der Voice-Agent stellt sich gleich zu Beginn des Anrufs als KI vor.
Beide Agenten stellen nur die Fragen der Anzeige, die sich auf die Stelle beziehen. Jedes Gespräch erzeugt ein Transkript und eine Zusammenfassung, die der Recruiter liest, bevor er über das weitere Vorgehen entscheidet. Der Kandidat kann das Gespräch jederzeit beenden.
Aufgezeichnete und transkribierte Interviews: was zu planen ist
Wird ein Videointerview in Delectus transkribiert und aufgezeichnet, wird die Anwesenheit des Agenten beiden Seiten von Anfang an angekündigt. Aufzeichnung und Transkript sind Bewerbungsdaten wie alle anderen. Sie sind von Ihrem Hinweis an die Kandidaten abgedeckt und folgen Ihren Aufbewahrungsfristen.
Die Analyse betrachtet den Inhalt der Antworten, gemessen an den Kriterien der Stelle. Gesichter, Tonfall und Aussehen der Kandidaten werden nicht analysiert.
Wo die Daten liegen
Kandidatendaten werden in der Europäischen Union gehostet und nicht zum Training von Modellen verwendet. Die Aufbewahrungsfristen folgen Ihren Regeln, und nach deren Ablauf werden die Daten gelöscht.
Bewährte Praktiken, bevor Sie KI im Recruiting einsetzen
Bevor Sie ein KI-Tool in Ihrer Personalauswahl einführen, prüfen Sie, wo die Daten gehostet werden und ob sie zum Training von Modellen verwendet werden. Dokumentieren Sie dann den Einsatz: den abgedeckten Schritt, die vorbereiteten Entscheidungen und die vorhandene Aufsicht. Aktualisieren Sie Ihr Verzeichnis von Verarbeitungstätigkeiten und führen Sie bei Bedarf eine Datenschutz-Folgenabschätzung durch. Schulen Sie schließlich die Recruiter darin, die Ergebnisse der KI kritisch zu lesen und zu hinterfragen.
Fragen an einen Anbieter von KI-Recruiting-Software
Bevor Sie ein Tool wählen, stellen Sie dem Anbieter diese Fragen und lassen Sie sich die Antworten schriftlich geben.
- Wo werden die Daten gehostet, und über welche Unterauftragsverarbeiter laufen sie?
- Werden Lebensläufe und Interviews zum Training von Modellen verwendet?
- Wie erklärt das Tool eine Einordnung oder eine Bewertung?
- Analysiert das Tool Dinge ohne Bezug zur Stelle, etwa Gesichter oder Tonfall?
- Wie werden Daten am Ende der Aufbewahrungsfrist gelöscht?
- Welche Dokumentation stellt der Anbieter für Ihr Verarbeitungsverzeichnis und Ihre Folgenabschätzung bereit?
Die Arbeitnehmervertretung informieren
In französischen Unternehmen mit einem Sozial- und Wirtschaftsausschuss (CSE) kann die Einführung neuer Technologien oder neuer Formen der Datenverarbeitung dessen Information oder sogar Anhörung erfordern. Die EU-KI-Verordnung (AI Act) verlangt zudem, die Arbeitnehmervertreter zu informieren, bevor ein Hochrisiko-System am Arbeitsplatz in Betrieb genommen wird. Klären Sie das vor der Einführung mit Ihrer Rechtsberatung.
Häufige Fragen
Erlaubt die DSGVO KI im Recruiting?
Ja, sofern ihre Grundsätze eingehalten werden. Kandidaten werden informiert, der Zweck ist klar, die Daten sind begrenzt und werden für eine festgelegte Dauer aufbewahrt, und keine Entscheidung mit erheblicher Wirkung beruht ohne Schutzmaßnahmen ausschließlich auf automatisierter Verarbeitung.
Verbietet der AI Act KI im Recruiting?
Nein. Er stuft sie als hochriskant ein und regelt sie, mit menschlicher Aufsicht, Transparenz und Dokumentation. Einige Praktiken sind jedoch verboten, etwa die Emotionserkennung am Arbeitsplatz.
Analysiert Delectus Gesichter oder Stimmen von Kandidaten?
Nein. Delectus analysiert weder Gesichter noch Tonfall noch Aussehen. Die Bewertungen beruhen auf dem Inhalt der Antworten, gemessen an den Kriterien der Stelle.
Kann ein Kandidat eine Bewertung anfechten?
Ja. Er kann seine Rechte gegenüber dem einstellenden Unternehmen geltend machen. Da die Bewertungen mit Zitaten belegt sind, kann ein Recruiter sie Punkt für Punkt überprüfen.
Was kann ein Kandidat zu einer mit KI getroffenen Entscheidung erfragen?
Er kann Auskunft über seine Daten und Informationen über die Logik der Verarbeitung verlangen. Ein guter Grund, eine KI zu wählen, deren Bewertungen sich erklären lassen.
Braucht man eine Folgenabschätzung, um KI im Recruiting zu nutzen?
Eine Datenschutz-Folgenabschätzung (DSFA) wird oft empfohlen, wenn eine Verarbeitung Personen systematisch bewertet. Ihr Datenschutzbeauftragter kann Ihnen sagen, ob sie in Ihrem Fall erforderlich ist.
Muss man Kandidaten sagen, dass eine KI ihren Lebenslauf analysiert?
Ja. Das französische Arbeitsgesetzbuch verlangt, Kandidaten über die eingesetzten Auswahlmethoden zu informieren, und die DSGVO, sie über die Verarbeitung ihrer Daten zu informieren. Der Hinweis gehört in die Stellenanzeige oder auf die Bewerbungsseite.
Darf man einen Kandidaten allein aufgrund eines KI-Scores ablehnen?
Nein. Eine solche Entscheidung muss von einer Person getroffen werden, die die Bewerbung tatsächlich prüft. Score oder Einordnung sind nur eine Entscheidungshilfe.
