Warum Diversity in der IT-Branche wichtig ist, zeigt nun eine neue Studie des M.I.T. Media Labs. Deren Resultate zeigen, dass Gesichtserkennungssoftware, die Geschlecht und Hautfarbe des Abgebildeten identifizieren soll, auf weiße Männer zugeschnitten wurde. Deren Merkmale werden von den gängigen Programmen (von Microsoft, IBM und Megvii) zu 99 Prozent korrekt erkannt. Bei Frauen und dunkelhäutigen Personen wird die Erfolgsquote geringer: Weiße Frauen werden in 93 Prozent der Fälle korrekt identifiziert, dunkelhäutige Männer in 88 Prozent der Fälle. Bei schwarzen Frauen sinkt dieser Anteil auf 65 Prozent ab.

Trainingsmaterial zu einseitig

Das liegt daran, dass die Software mit Bildern trainiert wird, die überwiegend weiße Männer abbilden. Die Studie beweist laut Informatik-Professorin Sorelle Friedler erstmals empirisch, dass Gesichtserkennungssoftware Probleme mit der Identifikation von Minderheiten hat. Microsoft und IBM kündigten in Reaktion auf die Ergebnisse an, einen größeren Fokus auf die Prävention von Diskriminierung zu legen.

Massenmarkt

Gesichtserkennungssoftware erreicht langsam den Massenmarkt. In den vergangenen Jahren war es immer wieder zu Problemen bei der Erkennung von Minderheiten gekommen. So identifizierte Googles Bilderkennungsprogramm Schwarze als "Gorillas"; außerdem können etwa gewisse Händetrockner schwarze Hände nicht erkennen. (red, 11.2.2018)