Bea probt synthetische Test-Cases gegen die HR-KI eines Kunden (Recruiting, Promotion, Performance-Scoring), misst Diskriminierungs-Score über geschützte AGG-Merkmale und liefert ein Defense-Receipt als Sorgfalts-Nachweis im AGG-Streitfall.
„Bias-Defense ist Mess- und Dokumentations-Problem, nicht Politik. AIR < 0,80 nach der 4/5-Regel der EEOC = roter Befund. Wer das nicht testet, kann auch nicht verteidigen.” — Bea-Charta · AGG § 1 + AI-Act Anhang III Nr. 4
Bea arbeitet auf drei Ebenen — Test entwerfen, Befund interpretieren, Akte aufbauen:
Bea charakterisiert das System (CV-Screening / Promotion / Performance / Schichtplanung), wählt geschützte Merkmale (Geschlecht, Alter, Migrations-Proxy, Eltern-Lücke, Sozial-PLZ) und liefert gepaarte Test-Cases (matched pairs) — mind. 30 pro Merkmal, 100+ für belastbares Audit.
„CV-Screening-Tool für Junior-Stelle — gib mir Test-Set für Geschlechter-Bias”Du wirfst Rohdaten ein (Annahmequote pro Gruppe), Bea rechnet schrittweise: AIR, Equal-Opportunity-Difference, Kolmogorov-Smirnov-Signifikanz. Bewertung: belastbar, oder Sample zu klein. Kein binäres Bias-Urteil, sondern Befund-Stärke.
„Männer 60 % angenommen, Frauen 42 % — schon Befund?”Audit-Periode + Test-Sets + Scores + eingeleitete Maßnahmen → Markdown-Receipt mit Hash-Slot. Zeigt, dass das System geprüft wurde, mit welchen Werten, was daraus folgte. Im Streitfall vor Gericht / Aufsicht als Sorgfalts-Beleg.
„Q3-Receipt für unser Bias-Audit — Aufbau bitte”Name als Geschlechts-/Herkunfts-Proxy, PLZ als Sozial-Proxy, Foto als Alter-/Herkunfts-Proxy, Lücken im CV als Eltern-Proxy. Bea zeigt die häufigsten Proxy-Pfade und empfiehlt Maskierungs-Strategien.
„Wir blenden Name + Geschlecht aus — reicht das?”Bea kennt die AGG-Merkmale + ihre häufigen Proxy-Pfade in HR-KI-Systemen.
| Merkmal (AGG § 1) | Häufige Proxy | Bea misst |
|---|---|---|
| Geschlecht | Vorname, Anrede, Hobbys | matched pairs · AIR · EOD |
| Alter | Geburtsjahr im CV, Senioritäts-Score | Verteilungs-Vergleich · KS-Test |
| Ethnische Herkunft | Name, Geburtsort, Sprach-Marker | matched pairs mit unterschiedlichen Namen |
| Behinderung | Lücken im CV, Schwerbehinderten-Markierung | Sample-Test mit/ohne Markierung |
| Religion | Schul-Wahl, Vereins-Zugehörigkeit, Familienname | indirekt über Sample-Mix |
| Sexuelle Identität | Partner-Information, Vereins-Zugehörigkeit | selten direkt prüfbar — Sensibilisierungs-Modus |
| Eltern (indirekt) | CV-Lücken 12-18 Monate, Teilzeit-Marker | Paar-Test mit/ohne Elternzeit-Lücke |
Bea-Zielgruppen — überall, wo HR-Entscheidungen KI-gestützt sind:
Pilot-Audit + laufende Score-Interpretation. Defense-Receipt als Akte für eventuelle Klagen.
AGG-Crosswalk zu AI-Act Anhang III Nr. 4 — gleicher Test deckt beide Compliance-Achsen.
Bias-Test des eigenen Tools vor Markteinführung, plus regelmäßiger Selbst-Audit für die Anhang-IV-Tech-Doku.
Bea arbeitet streng technisch — Mess- statt Politik-Ebene:
Matched pairs pro Merkmal, mind. 30 Paare. Bea liefert die Set-Definition + Beispiel-Test-Cases.
AIR (4/5-Schwelle), EOD (Sensitivity-Unterschied), KS-Test (Score-Verteilungen). Drei Maße zusammen — eine zeigt verzerrt, drei geben Bild.
Markdown-Akte mit Methodik, Ergebnis-Tabelle, festgestellten Befunden, eingeleiteten Maßnahmen. Hash-Slot vom Backend in Phase 2.
Was du Bea über interne Bias-Befunde, Schwellwert-Strategien oder geplante AGG-Klagen erzählst, verlässt unser Rechenzentrum nicht. Bias-Daten sind potenziell hoch-sensibel — Bea läuft On-Premise im Bunker.
Die drei Tools, an die Bea im Alltag übergibt.
Bea ist als REST-API live (Phase 1). Phase 2 = Hermes-Stack mit Weekly-Scheduler + signiertem Receipt-Hash. Im Demo-Termin spielen wir einen Bias-Audit-Lauf durch — du bekommst Test-Set + Interpretations-Pattern.