Wenn Algorithmen diskriminieren

Algorithmen gelten als objektiv und neutral. Doch das ist ein Mythos. In Wirklichkeit können sie bestehende Diskriminierung verstärken und sogar neue schaffen.

Was ist algorithmische Diskriminierung?

Algorithmische Diskriminierung liegt vor, wenn ein Algorithmus bestimmte Gruppen von Menschen systematisch benachteiligt — aufgrund von Geschlecht, Hautfarbe, Alter oder anderen Merkmalen.

Reale Beispiele

Bewerbungs-KI bei Amazon

Amazon entwickelte eine KI, die Bewerbungen bewertete. Das Problem: Sie wurde mit Daten aus 10 Jahren trainiert — einer Zeit, in der hauptsächlich Männer eingestellt wurden. Die KI lernte, Frauen systematisch schlechter zu bewerten. Amazon stoppte das System.

Gesichtserkennung

Studien der MIT-Forscherin Joy Buolamwini zeigten: Gesichtserkennung funktioniert bei weißen Männern mit 99% Genauigkeit, bei dunkelhäutigen Frauen nur mit 65%. Das kann bei Polizeieinsätzen zu falschen Identifikationen führen.

Kreditvergabe

Der Apple Card-Algorithmus vergab Männern bis zu 20-mal höhere Kreditlimits als ihren Ehefrauen — selbst bei identischem Einkommen und Vermögen.

Warum passiert das?

Historische Daten: Wenn die Vergangenheit diskriminierend war, lernt die KI Diskriminierung

Fehlende Diversität: Entwicklerteams, die nicht divers sind, übersehen blinde Flecken

Proxy-Variablen: Scheinbar neutrale Daten wie Postleitzahl können indirekt Ethnie kodieren

Was wir fordern können

Transparenz: Unternehmen müssen offenlegen, wie ihre Algorithmen funktionieren

Audits: Unabhängige Prüfungen auf Diskriminierung

Regulierung: Gesetze wie der EU AI Act sollen Hochrisiko-KI regulieren

Diversität in der Techbranche: Diverse Teams bauen fairere Systeme

Fazit

Algorithmen sind nur so fair wie die Menschen und Daten, die sie erschaffen. Kritisches Hinterfragen bleibt unsere wichtigste Waffe gegen algorithmische Diskriminierung.