San Francisco verbietet Behörden Software zur Gesichtserkennung

    16. Mai 2019, 09:00
    32 Postings

    Die Gefahren, die von der Technologie ausgehen, übersteigen deren Möglichkeiten, entschied der Stadtrat

    San Francisco – Es ist die Tech-Metropole der USA schlechthin. Jetzt ist San Francisco aber die erste Stadt der USA, die den Behörden die Verwendung von Software zur Gesichtsidentifizierung verbietet. Denn die Gefahr, dass der Einsatz solcher Technologien die Bürgerrechte verletzt, überwiege die behaupteten Vorteile bei weitem, entschied der Stadtrat am Dienstag.

    Der Einsatz von Gesichtserkennung drohe rassistische Ungerechtigkeit zu verschärfen und "bedroht unsere Möglichkeit, frei von ständiger Beobachtung durch die Regierung zu leben", heißt es in dem Beschluss. Sowohl der städtischen Polizei als auch allen anderen Behörden der Stadt wurde verboten, Gesichtserkennungstechnologie zu erwerben, zu besitzen oder zu nutzen.

    Was der Stadtrat nun per Gesetz verbietet, trifft schon lange auf Kritik von NGOs und Bürgerrechtlern: Systeme zur Gesichtserkennung bedeuteten einen starken Eingriff in die Privatsphäre. Zudem drohe die Gefahr, dass Unschuldige fälschlich als Straftäter identifiziert werden. Die US-Bürgerrechtsorganisation ACLU warnt, dass mit der Technologie die Bevölkerung wahllos und ohne konkreten Verdacht oder Anhaltspunkt flächendeckend überwacht werden könnte.

    Befürworter der Technologie halten dem wiederum entgegen, dass Gesichtserkennung der Polizei im Kampf gegen die Kriminalität helfe und mehr Sicherheit bringe.

    Auf Flughäfen und in vielen US-Städten längst Realität

    Auf Flughäfen und in Stadien wird die Software in vielen US-Bundesstaaten bereits verwendet. Dementsprechend sind Flughäfen und von Bundesbehörden betriebene Einrichtungen auch von der neuen Vorschrift ausgenommen. Laut "New York Times" setzt die Polizei in Las Vegas, Orlando, San José, San Diego, Boston, Detroit, Durham und New York City Gesichtserkennungssoftware ein.

    Zumindest die Software, die die New Yorker Polizei verwendet, stammt aus China. Das berichtete die "South China Morning Post" im Jänner. Das Land gilt als Vorreiter bei Überwachungssoftware. Die chinesischen Behörden setzen Gesichtserkennung etwa ein, um Angehörige der muslimischen Uiguren-Minderheit landesweit zu überwachen. Demnach wird Chinas immenses Netz an Überwachungskameras so programmiert, dass die Gesichtserkennung Uiguren aufgrund ihres Aussehens herausfiltern kann.

    Die chinesische Software wäre laut "South China Morning Post" um vieles besser darin, Menschen nichtweißer Hautfarbe zu erkennen. Eine Studie des MIT aus dem Jahr 2018 zeigte, dass eine von Microsoft entwickelte Software zwar weiße Männer treffsicher identifiziert, bei afroamerikanischen Frauen aber eine Fehlerquote von 20 Prozent aufweist.

    Bis 2030 will China Weltführer im Bereich künstliche Intelligenz sein. Schon jetzt exportiert das Land Überwachungssysteme inklusive Gesichtserkennungssoftware in viele Länder – etwa Simbabwe, Usbekistan, Pakistan, die Vereinigten Arabischen Emirate und Ecuador. Von 65 untersuchten Ländern verwenden laut einem 2018 erschienenen Bericht des US-Instituts Freedomhouse 18 entsprechende Software aus China.

    Uno möchte internationale Verträge schaffen

    Die Sorge, dass die in China entwickelte Software nicht mit den Menschenrechten vereinbar ist, wird immer öfter Thema bei von der Uno veranstalteten Konferenzen. Noch vor wenigen Jahren hätten Konferenzen, die sich mit Tech-Unternehmen und Menschenrechten beschäftigen, nur wenige Besucher angezogen. Das "7th UN Forum on Business and Human Rights" im November vergangenen Jahres sah aber bereits eine große Anzahl von Unternehmen und NGOs, berichtet Kunchok Dolma vom Tibet-Büro in Genf.

    "In China sehen wir eine Zusammenarbeit zwischen staatlichen Tech-Unternehmen und einem totalitären Regime. Hier ist das Risiko, dass künstliche Intelligenz als Kontrollwerkzeug verwendet wird, groß." So gibt es Bemühungen auf Uno-Ebene, verbindliche internationale Verträge zu schaffen, dass solche KI-Software im Einklang mit den Menschenrechten entwickelt wird.

    Aaron Peskin von der Stadtverwaltung San Francisco betonte gegenüber der "New York Times": "Dass San Francisco der globale Hauptsitz für alles, was mit Technologie zu tun hat, ist, bringt auch eine Verantwortung für lokale Gesetzesmacher mit sich." (APA, saw, 15.5.2019)

    • Bei einer Digitalmesse im chinesischen Fuzhou Anfang Mai wird die neueste Gesichtserkennungssoftware vorgestellt.
      foto: reuters/china daily

      Bei einer Digitalmesse im chinesischen Fuzhou Anfang Mai wird die neueste Gesichtserkennungssoftware vorgestellt.

    • Aaron Peskin trat für das Verbot in San Francisco ein.
      foto: reuters/jeffrey dastin

      Aaron Peskin trat für das Verbot in San Francisco ein.

    Share if you care.