World Model Readiness KI auf Menschen ist Hochrisiko · English

Modul · KI auf Menschen ist Hochrisiko

The HR Team AI Check

Wenn Ihr HR-Team KI auf Bewerber und Beschäftigte richtet, automatisiert es keinen Workflow, sondern trifft Entscheidungen über Menschen in der strengsten Stufe des EU AI Act. Screening-, Ranking- und Assessment-Tools fallen in die Hochrisiko-Klasse des Gesetzes, mit Pflichten, die greifen, ob Sie es bemerkt haben oder nicht. Dieses Modul prüft die fünf Dinge, die darüber entscheiden, ob Ihre Personalprozesse verteidigungsfähig sind: ob Sie das Screening auf Bias testen, ob Bewerber informiert werden, wo ein Mensch tatsächlich entscheidet, welche Mitarbeiterdaten Ihre Tools aufnehmen, und ob der Betriebsrat im Raum war, bevor irgendetwas davon live ging.

Frage 1 von 5 · Screening auf Bias getestet

Testen Sie Ihr KI-Screening auf Ihren eigenen Daten auf Bias gegenüber geschützten Gruppen?

Eine KI, die darauf trainiert wurde, wen Sie bisher eingestellt haben, reproduziert, wen Sie bisher eingestellt haben, einschließlich der Muster, die Sie nie in eine Richtlinie schreiben würden. Ein Fairness-Zertifikat des Anbieters ist kein Beleg für Ihre Rollen und Ihren Bewerberpool. Unter dem AI Act ist dieser Test keine freiwillige Sorgfalt, sondern eine dokumentierte Pflicht für Hochrisiko-Recruiting-Tools.

Frage 2 von 5 · Bewerber werden informiert

Werden Bewerber informiert, wenn KI sie screent oder bewertet?

Menschen haben ein Recht zu erfahren, wenn eine Maschine über ihre Bewerbung urteilt, und zunehmend ein Recht auf menschliche Überprüfung und eine Erklärung. Stilles KI-Screening ist der schnellste Weg zu einer Beschwerde, einer Aufsichtsbehörde und einer Schlagzeile. Die Offenlegung kostet Sie einen Satz; die Alternative kostet Sie eine Schlagzeile.

Frage 3 von 5 · Ein Mensch entscheidet

Gibt es einen Punkt, an dem ein Mensch die Einstellungsentscheidung tatsächlich trifft, statt die KI nur abzunicken?

Wirksame menschliche Aufsicht ist eine gesetzliche Anforderung für Hochrisiko-Recruiting-KI, aber ein Mensch, der dem Ranking immer zustimmt, ist Aufsicht nur dem Namen nach. Die Frage ist, ob Ihre Recruiter die Informationen, die Befugnis und die Gewohnheit haben, die Maschine zu überstimmen, und ob sie es je tun.

Frage 4 von 5 · Mitarbeiterdaten bleiben begrenzt

Kontrollieren Sie, welche Mitarbeiterdaten in KI-Tools fließen, und wo sie landen?

Leistungsnotizen, gesundheitsbedingte Fehlzeiten, Gehalt, Abmahnungen: In dem Moment, in dem diese Daten in ein allgemeines KI-Tool fließen, haben Sie die Grenze verloren, die das Datenschutzrecht von Ihnen verlangt. HR verarbeitet die sensibelste Kategorie von Mitarbeiterdaten, die es gibt, und ein bequemer Chatbot ist der leichteste Weg, sie abfließen zu lassen.

Frage 5 von 5 · Betriebsrat eingebunden

War der Betriebsrat eingebunden, bevor Sie KI eingeführt haben, die Beschäftigte betrifft?

In Deutschland und weiten Teilen der DACH-Region löst die Einführung von KI-Tools, die Beschäftigte überwachen oder bewerten, die Mitbestimmungsrechte des Betriebsrats aus. Den Betriebsrat früh einzubinden ist keine Höflichkeit, sondern eine Voraussetzung: Überspringen Sie das, kann ein Deployment blockiert, zurückgedreht oder vor das Arbeitsgericht gezogen werden, nachdem Sie es bereits ausgerollt haben.

Für die Statistik · je ein Klick

Drei Fragen für das Gesamtbild

Diese Fragen beeinflussen Ihr Ergebnis nicht. Sie fließen in die anonymisierten, aggregierten Statistiken ein; Gruppen unter 8 Teilnehmern werden nie ausgewiesen.

Wo wendet Ihr HR-Team KI bereits auf Menschen an?

Noch nicht
Sourcing und Ansprache
Screening und Ranking
Assessment oder Scoring
Über den gesamten Employee Lifecycle

Haben Sie Ihre Recruiting-KI auf Ihren eigenen Daten auf Bias getestet?

Nein
Nur Anbieterzusicherungen
Einmal
Regelmäßig
Keine Recruiting-KI im Einsatz

War der Betriebsrat eingebunden, bevor Ihre mitarbeiterbezogene KI live ging?

Nicht eingebunden
Nachträglich informiert
Vor dem Start konsultiert
Betriebsvereinbarung liegt vor
Es gibt keinen Betriebsrat

Ihr Kontext

Kalibriert den Report. Unternehmensgröße und Sektor bleiben im anonymisierten Datensatz; Ihre E-Mail-Adresse nicht.

So sehen die fünf Stufen aus

Jede Dimension von The HR Team AI Check wird von 1 bis 5 bewertet. Das bedeuten die Stufen, Dimension für Dimension. Der benotete Report diagnostiziert, wo Ihre eigenen Antworten landen und was daraus folgt.

Screening auf Bias getestet

  1. 1Nie getestet
  2. 2Vertrauen auf den Anbieter
  3. 3Einmalige Prüfung
  4. 4Auf eigenen Daten getestet
  5. 5Getestet und überwacht

Am unteren Ende: Ein ungetestetes Screening-Modell kann geschützte Gruppen in großem Maßstab herausfiltern, ohne dass jemand das Muster sieht. Führen Sie jetzt einen Disparate-Impact-Test auf Ihren eigenen Einstellungsdaten durch und bewahren Sie die Ergebnisse auf; der AI Act erwartet, dass Sie sie haben. So sieht gut aus: Bias-Tests auf eigenen Daten, über die Zeit wiederholt, machen ein KI-Recruiting-Tool unter dem Hochrisiko-Regime verteidigungsfähig. Bleiben Sie beim Monitoring; ein Modell, das letztes Jahr fair war, driftet, wenn sich Ihre Rollen und Bewerber ändern.

Bewerber werden informiert

  1. 1Nie offengelegt
  2. 2In Richtlinie vergraben
  3. 3Auf Nachfrage
  4. 4Klar offengelegt
  5. 5Offengelegt mit Rechten

Am unteren Ende: Bewerber mit KI zu screenen, ohne es ihnen zu sagen, provoziert genau die Beschwerde, die Sie nicht verteidigen können. Ergänzen Sie einen verständlichen Hinweis im Bewerbungsprozess, bevor die nächste Stelle ausgeschrieben wird. So sieht gut aus: Klare Offenlegung, gekoppelt an das Recht auf menschliche Überprüfung und eine Erklärung, ist der Standard, auf den sich der AI Act zubewegt. Halten Sie den Hinweis aktuell, wenn sich Ihre Tools ändern; eine veraltete Offenlegung ist so schlecht wie keine.

Ein Mensch entscheidet

  1. 1KI lehnt automatisch ab
  2. 2Mensch nickt ab
  3. 3Mensch prüft nur Top-Kandidaten
  4. 4Mensch entscheidet, informiert
  5. 5Mensch entscheidet, Overrides erfasst

Am unteren Ende: KI, die Bewerber ohne Menschen in der Schleife automatisch ablehnt, ist exakt die automatisierte Entscheidung, die der AI Act beschränkt. Setzen Sie eine Person mit echter Befugnis zwischen den Modell-Output und jede Absage. So sieht gut aus: Informierte menschliche Entscheidungen mit Overrides, die tatsächlich vorkommen, sind wirksame Aufsicht auf dem Papier und in der Praxis. Verfolgen Sie die Override-Quote; liegt sie dauerhaft bei null, nicken Ihre Menschen wieder nur ab.

Mitarbeiterdaten bleiben begrenzt

  1. 1Keine Grenze
  2. 2Nur Richtlinie
  3. 3Freigegebene Tools gelistet
  4. 4Zugriffskontrollierte Tools
  5. 5Kontrolliert und protokolliert

Am unteren Ende: Ohne Grenze dafür, wohin Mitarbeiterdaten fließen, sind sensible Unterlagen nur einen Paste-Vorgang von einem öffentlichen Modell entfernt. Legen Sie fest, welche Tools Personaldaten berühren dürfen, und sperren Sie den Rest, bevor jemand eine Beurteilung in einen Chatbot kopiert. So sieht gut aus: Zugriffskontrollierte Tools mit Protokollierung halten die sensibelsten Daten, die Sie besitzen, innerhalb einer Grenze, die Sie nachweisen können. Halten Sie die Freigabeliste knapp und die Logs geprüft; der Umgang mit sensiblen Daten ist genau der Punkt, an dem Prüfer zuerst hinschauen.

Betriebsrat eingebunden

  1. 1Nicht konsultiert
  2. 2Nachträglich informiert
  3. 3Spät konsultiert
  4. 4Früh konsultiert
  5. 5Betriebsvereinbarung liegt vor

Am unteren Ende: Mitarbeiterbezogene KI ohne den Betriebsrat einzuführen provoziert eine Anfechtung, die den gesamten Rollout einfrieren kann. Holen Sie den Betriebsrat jetzt an den Tisch und behandeln Sie Mitbestimmung als Gate, nicht als Formalie. So sieht gut aus: Eine formale Betriebsvereinbarung, vor dem Rollout verhandelt, macht mitarbeiterbezogene KI in einem mitbestimmten Betrieb tragfähig. Überarbeiten Sie sie, wenn sich die Tools ändern; die Vereinbarung deckt ab, was Sie eingeführt haben, nicht, was Sie als Nächstes einführen.