Gesichtserkennung funktioniert gut – aber nur bei weißen Männern

    11. Februar 2018, 12:31
    23 Postings

    Media Labs zeigt, dass Algorithmen 99 Prozent der weißen Männer, aber nur 65 Prozent schwarzer Frauen richtig erkannten

    Warum Diversity in der IT-Branche wichtig ist, zeigt nun eine neue Studie des M.I.T. Media Labs. Deren Resultate zeigen, dass Gesichtserkennungssoftware, die Geschlecht und Hautfarbe des Abgebildeten identifizieren soll, auf weiße Männer zugeschnitten wurde. Deren Merkmale werden von den gängigen Programmen (von Microsoft, IBM und Megvii) zu 99 Prozent korrekt erkannt. Bei Frauen und dunkelhäutigen Personen wird die Erfolgsquote geringer: Weiße Frauen werden in 93 Prozent der Fälle korrekt identifiziert, dunkelhäutige Männer in 88 Prozent der Fälle. Bei schwarzen Frauen sinkt dieser Anteil auf 65 Prozent ab.

    Trainingsmaterial zu einseitig

    Das liegt daran, dass die Software mit Bildern trainiert wird, die überwiegend weiße Männer abbilden. Die Studie beweist laut Informatik-Professorin Sorelle Friedler erstmals empirisch, dass Gesichtserkennungssoftware Probleme mit der Identifikation von Minderheiten hat. Microsoft und IBM kündigten in Reaktion auf die Ergebnisse an, einen größeren Fokus auf die Prävention von Diskriminierung zu legen.

    Massenmarkt

    Gesichtserkennungssoftware erreicht langsam den Massenmarkt. In den vergangenen Jahren war es immer wieder zu Problemen bei der Erkennung von Minderheiten gekommen. So identifizierte Googles Bilderkennungsprogramm Schwarze als "Gorillas"; außerdem können etwa gewisse Händetrockner schwarze Hände nicht erkennen. (red, 11.2.2018)

    • Die wichtigsten Gesichtserkennungsprogramme haben  Probleme damit, schwarze Frauen korrekt zu identifizieren
      foto: screenshot

      Die wichtigsten Gesichtserkennungsprogramme haben Probleme damit, schwarze Frauen korrekt zu identifizieren

    Share if you care.