World Model Readiness Recruiting-KI ist eine Hochrisikoklasse · English

Modul · Recruiting-KI ist eine Hochrisikoklasse

The AI-in-Hiring Audit

KI-gestütztes Recruiting fällt in die Hochrisikokategorie des EU AI Act, was Bias-Tests, Transparenz und menschliche Aufsicht zu rechtlichen Pflichten macht, nicht zu Best Practices. Dieses Modul prüft, ob Ihre Recruiting-KI einer Prüfung standhalten würde: Bias-Kontrollen, Offenlegung gegenüber Bewerbenden, echte menschliche Reviews, Verantwortlichkeit des Anbieters und die Nachweise, die ein Prüfer verlangen würde.

Frage 1 von 5 · Bias wird getestet

Wird Ihre Recruiting-KI planmäßig auf Bias über geschützte Gruppen hinweg getestet?

Ein Tool kann Tausende screenen, bevor jemand bemerkt, dass es eine Gruppe benachteiligt. Disparate-Impact-Tests, mit der Vier-Fünftel-Regel als Untergrenze, sind die Prüfung, deren Durchführung und Dokumentation das Hochrisikoregime von Ihnen erwartet.

Frage 2 von 5 · Bewerbende werden informiert

Wissen Bewerbende, wann KI ihre Bewerbung screent oder bewertet?

Transparenz gegenüber der bewerteten Person ist eine Pflicht, keine Höflichkeit. Offenlegung, vergraben in einer Datenschutzerklärung, ist Offenlegung nur dem Namen nach; sie gehört dorthin, wo die Bewerbung stattfindet.

Frage 3 von 5 · Menschen entscheiden wirklich

Prüft ein Mensch KI-Entscheidungen substanziell, oder genehmigt er sie nur?

Ein Reviewer, der nur auf Genehmigen klickt, ist keine Aufsicht, und Prüfer kennen den Unterschied. Echte Prüfung heißt: Zeit, Informationen und die Befugnis, die Maschine tatsächlich zu überstimmen.

Frage 4 von 5 · Anbieterpflichten sind klar

Deckt Ihr Vertrag mit dem Anbieter des Recruiting-Tools Bias, Dokumentation und Prüfzugang ab?

Standardklauseln schützen den Anbieter, nicht Sie. Die Pflichten, die Sie schriftlich brauchen, sind Bias-Tests, technische Dokumentation und das Recht zu prüfen; ohne sie tragen Sie ein Risiko, das Sie nicht inspizieren können.

Frage 5 von 5 · Nachweise existieren

Könnten Sie die Dokumentation vorlegen, die ein Prüfer oder ein Gericht verlangen würde?

Unter einem Hochrisikoregime liegt die Last bei Ihnen, Ihre Arbeit zu belegen: Bias-Tests, Offenlegungen, Review-Protokolle, Anbieterdokumente. Über Postfächer verstreute Nachweise sind in der Praxis gar keine Nachweise.

Für die Statistik · je ein Klick

Drei Fragen für das Gesamtbild

Diese Fragen beeinflussen Ihr Ergebnis nicht. Sie fließen in die anonymisierten, aggregierten Statistiken ein; Gruppen unter 8 Teilnehmern werden nie ausgewiesen.

Wo berührt KI heute Ihr Recruiting?

Gar nicht
Kandidatensuche
CV-Screening
Ranking oder Scoring
Interview- oder Videoanalyse

Sagen Sie Bewerbenden, wenn KI sie bewertet?

Nie
Manchmal
Immer
Wir nutzen keine KI im Recruiting

Wurde Ihre Recruiting-KI auf Bias geprüft?

Nie
Nur vom Anbieter
Intern
Von externer Seite
Nicht sicher

Ihr Kontext

Kalibriert den Report. Unternehmensgröße und Sektor bleiben im anonymisierten Datensatz; Ihre E-Mail-Adresse nicht.

So sehen die fünf Stufen aus

Jede Dimension von The AI-in-Hiring Audit wird von 1 bis 5 bewertet. Das bedeuten die Stufen, Dimension für Dimension. Der benotete Report diagnostiziert, wo Ihre eigenen Antworten landen und was daraus folgt.

Bias wird getestet

  1. 1Nie getestet
  2. 2Anbieter sagt, alles gut
  3. 3Einmal getestet
  4. 4Regelmäßige Tests
  5. 5Getestet und dokumentiert

Am unteren Ende: Ungetestete Recruiting-KI ist ein Risiko, das mit jeder Bewerbung wächst. Führen Sie jetzt einen Disparate-Impact-Test über geschützte Gruppen durch; die Vier-Fünftel-Regel ist eine verteidigbare Startlinie. So sieht gut aus: Regelmäßige, dokumentierte Bias-Tests sind genau das, was das Hochrisikoregime verlangt. Halten Sie den Rhythmus und versionieren Sie die Ergebnisse gegen Modell-Updates.

Bewerbende werden informiert

  1. 1Nie offengelegt
  2. 2In Richtlinie vergraben
  3. 3Auf Anfrage
  4. 4Klar offengelegt
  5. 5Offengelegt und erklärt

Am unteren Ende: Nicht offengelegtes KI-Screening ist ein Transparenzverstoß, der nur auf die erste Beschwerde wartet. Sagen Sie Bewerbenden klar, am Ort der Bewerbung, dass KI beteiligt ist. So sieht gut aus: Klare Offenlegung mit einer Erklärung der Logik ist der Standard, den der AI Act vorsieht. Halten Sie sie korrekt, wenn sich Ihr Prozess ändert.

Menschen entscheiden wirklich

  1. 1KI lehnt automatisch ab
  2. 2Mensch winkt durch
  3. 3Review bei Grenzfällen
  4. 4Jede Ablehnung geprüft
  5. 5Dokumentierte menschliche Entscheidung

Am unteren Ende: Vollautomatische Ablehnung ist genau das Szenario, auf das die Hochrisikoregeln zielen. Setzen Sie einen Menschen mit der Befugnis davor, die Maschine zu überstimmen, bevor irgendeine Bewerbung aussortiert wird. So sieht gut aus: Dokumentierte menschliche Entscheidungen bei jeder Ablehnung sind der verteidigbare Standard. Achten Sie darauf, dass die Aufzeichnung zeigt: Der Mensch hat entschieden, nicht das Modell.

Anbieterpflichten sind klar

  1. 1Keine Ahnung
  2. 2Nur Standardklauseln
  3. 3Einige Klauseln
  4. 4Pflichten spezifiziert
  5. 5Pflichten plus Prüfrechte

Am unteren Ende: Wenn Sie nicht wissen, wofür der Anbieter vertraglich haftet, gehen Sie davon aus: für nichts. Verankern Sie Bias-Dokumentation, Modellinformationen und Prüfzugang im Vertrag. So sieht gut aus: Spezifizierte Anbieterpflichten mit Prüfrechten sind die reife Position. Überprüfen Sie sie bei jeder Verlängerung; Anbieter verlagern Pflichten mit der Zeit stillschweigend auf ihre Kunden.

Nachweise existieren

  1. 1Nichts
  2. 2Verstreute E-Mails
  3. 3Teilweise Unterlagen
  4. 4Geordnete Nachweise
  5. 5Prüfbereite Akte

Am unteren Ende: Wenn die Nachweise in verstreuten E-Mails liegen, haben Sie faktisch keine. Beginnen Sie eine Akte: Bias-Tests, Offenlegungen, Review-Protokolle, Anbieterdokumente, an einem Ort. So sieht gut aus: Eine prüfbereite Akte ist unter einem Hochrisikoregime ein echtes Asset. Halten Sie sie lebendig, gekoppelt an jede Modelländerung und jeden Einstellungszyklus.