Zuckerberg-Deepfake-Video provoziert Facebook-Richtlinien

    12. Juni 2019, 15:29
    9 Postings

    Facebook reagierte nur sehr zahm auf ein Fakevideo von US-Demokratin Pelosi.

    Vor nicht einmal einen Monat hat sich auf den sozialen Medien ein Video verbreitet, das die US-Demokratin Nancy Pelosi vermeintlich betrunken zeigt. Das Bildmaterial stellte sich schnell als Fake heraus. Facebook sah aber trotzdem keinen Grund, das Video zu löschen. Stattdessen wurde nur dessen Reichweite eingeschränkt.

    Facebook-Manager Neil Potts sagte damals in einem Interview, dass ein ähnlich manipuliertes Video von Mark Zuckerberg ebenfalls online bleiben würde. Und genau diese Aussage wird nun herausgefordert.

    Zuckerberg-Deepfakevideo

    Denn siehe da, nun ist tatsächlich ein Deepfake-Video von Facebook-Gründer Mark Zuckerberg aufgetaucht, wie "Vice" berichtet. Dabei wurden mit Hilfe von Künstlicher Intelligenz täuschend echte Bilder erzeugt.

    Auf Instagram wird der Beitrag damit beworben, dass Zuckerberg die Wahrheit über Facebook aufdecken würde. "Stellen Sie sich das für eine Sekunde vor: Ein Mann mit totaler Kontrolle über Milliarden von gestohlenen Daten, über die Geheimnisse, die Leben und die Zukunft all dieser Leute", sagt der vermeintliche Zuckerberg im Video. Die News-Bauchbinde im unteren Bildteil mit dem Titel "Zuckerberg: Wir erhöhen die Transparenz bei Werbungen" soll die Authentizität verstärken.

    Fake.

    Stimme auffällig

    Hört man sich das Video jedoch an, ist es schnell als Manipulation zu identifizieren. Mimik und Gestik vom 35-Jährigen wirken zwar real, die Stimme hingegen nicht. Der echte Zuckerberg hat diesen Text freilich nie gesagt. Das Original stammt von September 2017, als Zuckerberg über mögliche russische Wahlbeeinflussungen referierte. Dieses Video diente als Grundlage des Deepfakes, das von Bill Posters und Daniel Howe in Kooperation mit der Werbefirma Canny erstellt wurde.

    pbs newshour
    Original.

    Die Video-Dialogue-Replacement-Technologie wurde dabei von einem Algorithmus der Washington Universität unterstützt. Dieser bekam zwei Videos vorgesetzt: Ein 21 Sekunden langes Segment des erwähnten Zuckerberg-Originals und ein Video, in dem der Synchronsprecher spricht. Aus diesen Informationen wurde dann der Deepfake kreiert.

    Canny und Kumpanen haben nicht zum ersten Mal solche manipulierten Videos hergestellt. Im Zuge des Kunstprojektes "Spectre" haben sie bereits Kim Kardashian in Szene gesetzt. Darauf nimmt auch Fake-Zuckerberg Bezug, indem er sagt: "Ich verdanke alles Spectre".

    Fake.

    Keine Bevorzugung vom Eigentümer

    Spannend wird nun, wie Instagram bzw. deren Eigentümer Facebook darauf reagiert. "Wir werden mit diesem Beitrag genauso umgehen wie mit sämtlichen Falschinformationen in Instagram", erklärte ein Sprecher des US-Unternehmens am Dienstag. Wenn die Inhalte extern als 'falsch' markiert würden, würden sie danach nicht mehr für andere Nutzer angezeigt.

    Facebook war im vergangenen Jahr von einer Serie von Skandalen erschüttert worden. Unter anderen kam heraus, dass die Daten von rund 87 Millionen Nutzern bei der Datenanalysefirma Cambridge Analytica gelandet waren. Im Herbst hatten Hacker eine Sicherheitslücke bei Facebook ausgenutzt, um sich Zugang zu 29 Millionen Nutzerkonten zu verschaffen.

    So oder so dürfte Canny jedenfalls sein Ziel erreicht haben: Der breiten Öffentlichkeit zu zeigen, was Künstliche Intelligenz heutzutage mittlerweile kann. "In Zukunft hat vielleicht jeder Mensch eine digitale Kopie", sagt Gründer Omer Ben-Ami. (red, APA, 12.6.2019)

    Share if you care.