Gefährliche und unsichtbare Bilder: Wie Maschinen sehen

10. Mai 2017, 16:14
19 Postings

Künstler Trevor Paglen spricht auf der re:publica über die Gefahren von Gesichtserkennung und Überwachung

Es begann mit einer Katze, deren Schädel aufgebrochen wurde: So wollten Forscher einst herausfinden, wie Tiere ihre Umgebung wahrnehmen. Überraschenderweise bewirkte das Diabild eines Fisches nichts. Erst, als das Dia gewechselt wurde, kam Bewegung in die Gehirnströme der Katze. So entstand das Konzept, dass Tiere – und somit auch Menschen – Ränder wahrnehmen und so sehen. Jahrzehnte später ist diese Idee im Feld des maschinellen Sehens omnipräsent, wie der Künstler Trevor Paglen in einer Präsentation auf der re:publica analysiert. Seit den 1990ern fand eine "Explosion" bei der Bilderkennungssoftware statt.

Menschen verlieren Deutungshoheit

Mittlerweile können etwa Gesichter in Echtzeit identifiziert werden – und das ist nur die Spitze des Eisbergs. Doch wie verändert diese Technologie unsere Welt? Paglen warnt davor, dass Menschen die Möglichkeit verlieren, Bilder zu interpretieren und deren Bedeutung zu bestreiten. Denn mittlerweile wird der überwiegende Großteil an Bildern von Maschinen für Maschinen produziert. Egal ob in Smart Cities, autonomen Fahrzeugen, Smartphones oder in der Industrie 4.0: Täglich werden unzählige Bilder produziert, die weder von noch für Menschen erstellt werden.

Nummerntafeln auslesen

Das ist gefährlich, so Paglen. Er erzählt von der 2005 gegründeten Firma Vigilant Solutions, die Kameras zum Erkennen von Nummerntafel produzierte. Sie arbeitete mit Polizeibehörden zusammen und stellte ihnen kostenlos Kameras zur Verfügung. Erwischten Beamte dann dank dieser Maschine eine Person, die eine ausstehende Strafe hat, kassiert Vigilant Solutions eine Prämie. Ein klarer Fall von maschinellem Sehen, das für die Verfestigung und Ausnutzung von Machtverhältnissen eingesetzt wird.

Derartige Mechanismen werden künftig noch verstärkt werden, sagt Paglen. Er denkt beispielsweise an Programme, die erkennen, wenn Jugendliche beim Trinken von Bier fotografiert werden – und zwar, sobald diese Bilder auf sozialen Medien landen. Für ausgereifte Technologien wäre es kein Problem, derartige Vorgänge zu identifizieren und dann etwa Behörden einzuschalten.

Instrumente der Macht

"Diese Maschinen sehen nicht Ecken und Kanten – sie sehen, indem sie jene Macht benutzen, zu deren Ausübung sie entworfen wurden", sagt Paglen. Diese "unsichtbaren Bilder" könnten ewig gespeichert werden, ohne dass Betroffene darauf Zugriff haben. Paglen fordert nun, dass sich die Gesellschaft intensiver mit diesen Mechanismen auseinandersetzt.

Der Künstler, der auf der re:publica erstmals über dieses Thema sprach, hat sich in den vergangenen Jahren mit Überwachung und Geheimnissen beschäftigt. Er fotografierte beispielsweise die Hauptquartiere von Geheimdiensten oder enttarnte bislang geheime Einheiten aufgrund ihrer Abzeichen. Vor anderthalb Jahren waren Paglens Werke im Rahmen der Ausstelung "Politischer Populismus" in Wien ausgestellt. "Der Widerspruch ist ein Grundprinzip der US-amerikanischen Tradition", sagte Paglen damals zum STANDARD. (fsc, 10.5.2017)

  • Der Künstler Trevor Paglen stellte schon mehrfach in Wien aus, etwa in der Secession
    foto: standard/corn

    Der Künstler Trevor Paglen stellte schon mehrfach in Wien aus, etwa in der Secession

  • Auf der re:publica 2017 sprach Paglen von jenen "unsichtbaren Bildern", die Maschinen für andere Maschinen produzieren
    foto: screenshot/re:publica

    Auf der re:publica 2017 sprach Paglen von jenen "unsichtbaren Bildern", die Maschinen für andere Maschinen produzieren

    Share if you care.