Bias – Verzerrung – bezeichnet im Machine-Learning-Kontext systematische Fehler in einem Modell, die dazu führen, dass seine Vorhersagen konsistent in eine bestimmte Richtung abweichen oder bestimmte Gruppen systematisch schlechter behandelt werden als andere. Bias entsteht meist durch verzerrte Trainingsdaten (die Realität wurde unrepräsentativ abgebildet), durch fehlerhafte Annahmen im Modelldesign oder durch Rückkopplungsschleifen zwischen Modellentscheidungen und neuen Daten.
Bias ist eines der größten ethischen und praktischen Risiken automatisierter KI-Systeme: Ein ML-Modell, das Kreditanträge bewertet, kann systematisch bestimmte Bevölkerungsgruppen benachteiligen – nicht weil jemand das so programmiert hat, sondern weil die historischen Kreditentscheidungen, auf denen es trainiert wurde, bereits verzerrt waren. Das Modell lernt und perpetuiert den Bias der Vergangenheit.
Bias-Typen in ML-Systemen
Datenbias Verzerrte Trainingsdaten: Wenn bestimmte Gruppen in Trainingsdaten unterrepräsentiert oder überrepräsentiert sind, lernt das Modell ein verzerrtes Bild der Realität
Algorithmischer Bias Verzerrte Optimierungsziele: Das Modell optimiert eine Metrik, die nicht alle Gruppen gleich gewichtet – Accuracy über alle kann Recall für Minderheiten opfern
Confirmation Bias Rückkopplungsschleifen: Modellentscheidungen beeinflussen zukünftige Daten – ein Kreditmodell, das selten X vergibt, hat wenig Daten über Xs tatsächliches Rückzahlungsverhalten
Messbias Ungleiche Datenqualität: Für verschiedene Gruppen stehen unterschiedlich viele oder unterschiedlich genaue Features zur Verfügung – das Modell kann sie ungleich gut beurteilen
Bias erkennen und mitigieren
- Modellgüte nach Gruppen messen: Nicht nur Gesamtmetriken, sondern Leistung des Modells für verschiedene Segmente (Alter, Geschlecht, Region) getrennt auswerten
- Trainingsdaten prüfen: Repräsentativität der Trainingsdaten analysieren – welche Gruppen sind unter- oder überrepräsentiert?
- Fairness-Metriken: Demographic Parity, Equal Opportunity, Calibration – explizit Fairness als Optimierungsziel definieren
- Human-in-the-Loop: Bei Entscheidungen mit großer Wirkung auf Personen bleibt ein Mensch in der Entscheidungskette – das Modell assistiert, entscheidet aber nicht allein
Praxisbeispiel
Ein Unternehmen trainiert ein Modell zur Priorisierung von Bewerber-CVs. Nach Deployment: Bewerbungen von Frauen werden systematisch niedriger bewertet als vergleichbare Bewerbungen von Männern. Ursachenanalyse: Das Modell wurde auf historischen Einstellungsentscheidungen trainiert – und diese bevorzugten historisch Männer in bestimmten Rollen. Das Modell hat den Bias der Vergangenheit gelernt und perpetuiert ihn. Maßnahmen: Modell wird mit gender-blinden Features retrained (Name und geschlechtsspezifische Wörter entfernt). Fairness-Metrik Equal Opportunity Rate explizit gemessen und als Nebenbedingung in die Optimierung aufgenommen. Ergebnis: Modell jetzt mit annähernd gleicher Treffsicherheit für beide Gruppen.
