Google Photos markierte schwarze Nutzer als "Gorillas"

2. Juli 2015, 08:48
116 Postings

Mehrfache Entschuldigungen von Google – Ähnliches passierte bereits Flickr

Dass Computer korrekt erkennen, was auf einem Bild zu sehen ist, wird zu einem immer wichtigeren Feature: Facebook und Co setzen etwa auf die Identifikation von individuellen Personen, während Amazon-Apps Produkte erkennen, um sie gleich im Onlinehandel verfügbar zu machen. Auch Google investierte massiv in die Fähigkeiten seiner Bilderkennungstechnologie, nun ist dem IT-Konzern allerdings ein schwerwiegender Fehler unterlaufen: Google Photos markierte schwarze Nutzer wiederholt als "Gorillas".

Schnell ausgebügelt

Auf den Faux-Pas machte Google ein Software-Entwickler aufmerksam, der den Fehler bei einem eigenen Foto entdeckte. Er veröffentlichte einen Screenshot auf Twitter, um durch die Öffentlichkeit eine schnellere Antwort von Google zu erlangen.


Tatsächlich meldete sich der Suchmaschinist schon nach eineinhalb Stunden und versprach, den Fehler auszubügeln. "Es gibt immer noch viel Arbeit mit automatischer Bilderkennung und wir müssen versuchen, solche Fehler in Zukunft zu vermeiden", so ein Mitarbeiter gegenüber der New York Times.

Flickr: KZ ist "Sport"

Vor anderthalb Monaten war Flickr dasselbe passiert: Dort wurden schwarze Personen ebenfalls als "Affe" gekennzeichnet. Außerdem ordnete Flickrs automatisches Bilderkennungssystem Aufnahmen von Konzentrationslagern als "Klettergerüst" und "Sportanlage" zu. (fsc, 2.7.2015)

  • Nutzer wurden von Googles Foto-App als "Gorillas" getaggt
    foto: twitter/jacky alcine [cc; by-nd}

    Nutzer wurden von Googles Foto-App als "Gorillas" getaggt

Share if you care.