Zurück zur Übersicht Datenschutz FAQ
Wie werden Diskriminierungsrisiken beim KI-Matching begrenzt?
Das KI-Matching
bewertet Bewerber nur anhand der Qualifizierungsfragen, die Sie am Job
hinterlegen. Die KI bildet sich kein eigenes Gesamturteil über einen
Bewerber. Dazu kommen diese Maßnahmen:
- KI-Vorschläge ohne AGG-Merkmale. Lässt sich ein Benutzer Fragen aus
der Stellenanzeige vorschlagen, schließt coveto Fragen zu Merkmalen nach
§ 1 AGG aus (z. B. Alter, Geschlecht, ethnische Herkunft, Religion,
Behinderung, sexuelle Identität). Was trotzdem durchrutscht, filtert
coveto vor der Anzeige heraus.
- K.O.-Kriterien setzt die KI nie. Sie legt immer ein Benutzer fest.
- Freitextfelder nur nach Freigabe. Ein Freitextfeld fließt nur ein,
wenn ein Administrator es ausdrücklich für das Matching freigibt. Das
Formular des Freitextfelds weist darauf hin, keine Felder mit Merkmalen
nach § 1 AGG wie Alter, Herkunft, Geschlecht oder Religion freizugeben.
- Fehlende Angaben benachteiligen nicht. Steht zu einer Frage nichts
in den Unterlagen oder ist die KI unsicher, zählt der Mittelwert der
möglichen Punkte.
- Unveränderliches Protokoll. Jede gespeicherte Fassung des
Fragenkatalogs eines Jobs wird mit Benutzer und Zeitpunkt protokolliert.
Das Protokoll lässt sich weder ändern noch löschen. So können Sie
nachweisen, mit welchen Kriterien bewertet wurde.
Fragen, die Ihre Benutzer selbst formulieren, prüft coveto nicht. Für
deren Inhalt ist Ihr Unternehmen verantwortlich. Wir empfehlen, nur nach
Anforderungen zu fragen, die für die Stelle tatsächlich erforderlich
sind, und die Fragenkataloge stichprobenartig zu prüfen.
Verwandte Artikel