Zurück zur Übersicht aller KI-Funktionen

AI Act – Risiko- und Klassifizierungsübersicht

coveto KI-Funktionen (Stand: 2026-04-02)

1. Beschreibung des KI-Systems

Die coveto Software enthält KI-gestützte Funktionen zur Unterstützung im Recruiting-Prozess. Diese umfassen insbesondere:

• KI-Chat zur Unterstützung von Anwendern bei operativen Aufgaben
• KI-gestützte Erstellung und Optimierung von Stellenanzeigen
• Unterstützung bei Formulierungen und Textvorschlägen
• optionale Nutzung von KI über MCP-Schnittstellen

Die KI dient ausschließlich als Assistenzsystem für Nutzer (z. B. Recruiter) und trifft keine eigenständigen Entscheidungen über Bewerber. Lesen Sie auch mehr über die zulässige Nutzung und Grenzen, sowie den Pflichten des Betreibers.

Zur Bereitstellung der KI-Funktionalitäten wird unter anderem das Modellangebot von OpenAI Ireland Ltd. genutzt. Vergleichen Sie dazu die Subunternehmerliste in coveto oder dem AVV.

2. Einordnung nach dem AI Act (EU-Verordnung 2024/1689)

2.1 Grundsätzliche Einordnung

Gemäß Anhang III Nr. 4 lit. a AI Act können KI-Systeme im Bereich Beschäftigung und Personalmanagement grundsätzlich als Hochrisiko-Systeme eingestuft werden.

2.2 Einschränkung gemäß Art. 6 Abs. 3 AI Act

Die coveto KI-Funktionen fallen jedoch unter die Ausnahme gemäß:

Art. 6 Abs. 3 lit. a–d AI Act

Danach gelten KI-Systeme nicht als Hochrisiko, wenn sie:

• keine automatisierte Entscheidungsfindung durchführen
• lediglich unterstützende Funktionen bereitstellen
• keinen wesentlichen Einfluss auf Entscheidungen über Personen haben
• durch menschliche Entscheidungsträger kontrolliert werden

2.3 Ergebnis der Klassifizierung

Die KI-Funktionen von coveto werden von uns daher wie folgt eingeordnet:

→ Nicht-Hochrisiko-KI-System → Kategorie: begrenztes Risiko (Limited Risk)

Begründung:

• Keine automatisierte Bewertung oder Auswahl von Bewerbern
• Keine eigenständige Entscheidungsfindung
• Ergebnisse sind rein unterstützend (Textvorschläge, Hilfestellungen, etc.)
• Nutzer behalten jederzeit die vollständige Kontrolle (Human-in-the-loop)

3. Risikoanalyse

3.1 Identifizierte Risiken

Im Rahmen der internen Bewertung wurden folgende potenzielle Risiken identifiziert:

• Inhaltliche Ungenauigkeiten (Halluzinationen)
• Ungeeignete oder missverständliche Formulierungen
• Mögliche Bias in generierten Texten
• Fehlinterpretation von KI-generierten Inhalten durch Nutzer

3.2 Bewertung der Risiken

Die Risiken betreffen ausschließlich unterstützende Inhalte und haben:

• keine unmittelbare rechtliche Wirkung
• keine direkte Auswirkung auf Entscheidungen über Bewerber
• keine automatisierte Verarbeitung personenbezogener Bewertungen

Das Gesamtrisiko wird daher als niedrig bis moderat eingestuft.

4. Risikomindernde Maßnahmen

Zur Minimierung der identifizierten Risiken werden folgende Maßnahmen umgesetzt:

• Human-in-the-loop-Prinzip → Alle Ergebnisse werden durch Nutzer geprüft und freigegeben

• Keine automatisierten Entscheidungen → KI hat keine Entscheidungsbefugnis im Recruiting-Prozess

• Transparenz gegenüber Nutzern → KI-generierte Inhalte sind als solche erkennbar

• Guidelines zur Nutzung → klare Hinweise zu Grenzen und verantwortungsvoller Nutzung

• Technische Einschränkungen → definierte Anwendungsbereiche und kontrollierte Nutzung

5. Datenverarbeitung und Modelle - Einordnung im AI Act Kontext

• Zur Umsetzung der KI-Funktionalitäten stehen verschiedene Modellanbieter zur Verfügung, die sie als Kunde beliebig wählen können.
• Alle angebotenen Anbieter verwenden die Daten nicht zum Training neuer Modelle.
• Alle angebotenen Modelle sind ein General Purpose AI Model (GPAI)
• coveto definiert als Anbieter den vorgesehenen Verwendungszweck (intended purpose) der KI-Systeme.
• Die tatsächliche Nutzung im betrieblichen Kontext sowie die Einhaltung der Pflichten für Betreiber gemäß Art. 26 AI Act obliegt dem jeweiligen Kunden.

6. Fazit

Die KI-Funktionen von coveto:

• stellen kein Hochrisiko-System im Sinne des AI Act dar
• dienen ausschließlich der Unterstützung menschlicher Entscheidungen
• sind mit geeigneten technischen und organisatorischen Maßnahmen abgesichert

Eine weitergehende Risikobewertung im Sinne eines Hochrisiko-KI-Systems ist daher aktuell nicht erforderlich.