Bias in KI

Definition

Bias in KI bezeichnet systematische Verzerrungen in KI-Systemen, die aus Trainingsdaten, Algorithmen oder Deployment-Kontexten entstehen und zu unfairen, ungenauen oder diskriminierenden Ergebnissen führen können. Der Begriff stammt aus der Statistik und Sozialforschung und wurde durch die FAccT-Konferenz-Reihe (Fairness, Accountability, Transparency) sowie regulatorische Initiativen wie den EU AI Act in die KI-Praxis getragen.

Bias ist kein binäres Eigenschaftsattribut, sondern eine Eigenschaft von Mess- und Entscheidungssystemen relativ zu einer Referenz-Verteilung oder einem normativen Anspruch. Verschiedene Disziplinen (Statistik, Recht, Ethik) verwenden den Begriff unterschiedlich.

Konzept

In der KI-Praxis werden vier Bias-Quellen unterschieden:

• Datenbias: Trainingsdaten sind unausgewogen, historisch verzerrt oder repräsentieren bestimmte Gruppen unzureichend.
• Labeling-Bias: Annotationen reflektieren subjektive Einschätzungen oder kulturelle Prägungen der Labeler.
• Algorithmischer Bias: Modellarchitektur oder Optimierungsziel verstärken bestehende Verzerrungen oder erzeugen neue.
• Deployment-Bias: Das System wird in einem Kontext eingesetzt, für den es nicht trainiert wurde, etwa ein in den USA trainiertes Medizin-KI in Subsahara-Afrika.

Daneben unterscheidet die FAccT-Forschung representational Harm (stereotype Darstellungen) von allocational Harm (ungleicher Zugang zu Ressourcen). Mathematische Fairness-Definitionen (demografische Parität, Equalized Odds, Calibration) sind teilweise inkompatibel: kein System kann alle gleichzeitig erfüllen, die Wahl hängt vom Kontext und der zugrunde gelegten Gerechtigkeitstheorie ab.

Praxis

In der industriellen Praxis besteht Bias-Mitigation aus mehreren Phasen:

• Pre-Processing: Datenausgleich, Reweighting, gezielte Daten-Augmentation für unterrepräsentierte Gruppen.
• In-Processing: Fairness-Constraints werden direkt in die Loss-Funktion integriert (z.B. Adversarial Debiasing).
• Post-Processing: Entscheidungs-Thresholds werden pro demografischer Gruppe angepasst.
• Bias-spezifische Evals: Suiten wie BBQ (Bias Benchmark for QA), BOLD, StereoSet und HolisticBias prüfen Sprachmodelle systematisch.
• Red-Teaming: Adversarielles Probing auf diskriminierende Outputs.
• Audits: Externe Bias-Audits durch unabhängige Dritte werden für Hochrisiko-Systeme zunehmend gesetzlich verlangt.

In Sprachmodellen wirken zusätzlich RLHF und Constitutional AI als Bias-Mitigationen, da sie unerwünschtes Verhalten gezielt herauslernen lassen. In Bildgeneratoren werden Diversität-Prompts und Post-Hoc-Filter eingesetzt.

Häufige Fehler

• Bias mit Fehler verwechseln: Bias ist systematisch, nicht zufällig. Ein hohes Bias bedeutet nicht zwangsläufig hohe Fehlerquote, sondern Ungleichverteilung über Gruppen.
• Eine einzelne Fairness-Metrik absolut setzen: Verschiedene Metriken messen verschiedene Dinge. Welche relevant ist, hängt vom Kontext ab.
• Bias-Tests ohne Subgroup-Aufschlüsselung: Aggregierte Metriken können Disparitäten verschleiern. Performance muss pro Untergruppe ausgewiesen werden.
• One-Shot-Mitigation: Bias entsteht laufend neu, durch Data Drift, geänderte Nutzerbasen oder neue Capabilities. Mitigation ist ein Dauerprozess.
• Vollständige Neutralität versprechen: Marketing-Versprechen wie unbiased AI sind technisch falsch und juristisch riskant.

Abgrenzung

• AI Safety: breiterer Oberbegriff. Bias ist eine zentrale, aber nicht die einzige Safety-Frage.
• AI Alignment: überlappt teilweise, da fehlausgerichtete Modelle oft auch biased sind. Alignment ist breiter und betrifft Zielfunktionen insgesamt.
• Robustness: misst Stabilität gegen Input-Variation. Bias misst systematische Ungleichheit. Beide können koexistieren.
• Discrimination: rechtlich-normativer Begriff. Bias ist statistisch-technisch, Diskriminierung erfordert eine geschützte Gruppe und einen normativen Massstab.