Technologien wie Gesichtserkennung sind nicht einwandfrei – oft neigen sie zu Fehlern, die für Betroffene verheerend sein können. Ein bekanntes Beispiel für das Phänomen wurde 2015 offenbart – damals erkannte Googles Bilderkennung Afroamerikaner als "Gorillas". Als "Lösung" dagegen hat Google nun grundsätzlich das Wort "Gorillas" entfernt. Trotzdem verwenden Behörden in den USA Gesichtserkennung im Falle von Verbrechen – teilweise werden Verdächtige rein auf Basis dieser Scans festgenommen.

Schlechtere Erkennung bei dunkler Hautfarbe

Eine aktuelle Studie illustriert nun, was das für die Zukunft der Mobilität bedeuten könnte. So bemerkten Forscher des Georgia Institute of Technology, dass Menschen mit dunkler Hautfarbe eher von selbstfahrenden Autos überfahren werden könnten als hellhäutige. Das berichtet "Vox".

Bei dunkelhäutigen Menschen war die Erkennung im Durchschnitt um fünf Prozent fehlerbehafteter las bei hellhäutigen. Dabei bestehe dieser Unterschied auch bei Tests mit unterschiedlichen Variablen – etwa verschiedener Tageszeiten oder Hindernissen. Dabei gilt jedoch zu beachten, dass dabei öffentlich verfügbare Trainingsdaten anstatt jener der aktuellen Unternehmen genutzt werden.

Fehlende Diversität?

Der Grund, warum solche Software einen sogenannten "algorithmischen Bias" hat liegt laut Forschern des Massachussets Institute of Technology daran, dass es im Technologiesektor an Diversität mangelt. So ist der größte Teil der Programmierer im Silicon Valley weiß. Beim Verbessern der Algorithmen liegt der Fokus oft darauf, bestimmte Merkmale leichter erkennbar zu machen – bei Menschen verschiedener ethnischer Herkunft stechen jedoch manche womöglich eher hervor als andere. Die Trainingsdatensätze basieren zudem oft auf weißen Gesichtern, wodurch die Programme bei unterrepräsentierten Menschen unzuverlässiger sind. (red, 8.3.2019)