Deepfake: EU-Kommission warnt vor gefälschten Politikervideos

    21. Dezember 2018, 18:01
    195 Postings

    Justizkommissarin: "Da können Sie jedem Politiker jede beliebige Aussage in den Mund legen" – Technologie ist für jeden verfügbar

    Die EU-Kommission befürchtet auch im anstehenden Europawahlkampf Desinformationskampagnen mit gefälschten Politikervideos. Neue Technologien machten es möglich, Videos täuschend echt zu fälschen, warnte EU-Justizkommissarin Věra Jourová in einem Interview mit dem "Spiegel". Stimmen und Gesichter etwa von Politikern könnten in beliebige Zusammenhänge montiert werden.

    "Da können Sie jedem Politiker jede beliebige Aussage in den Mund legen", sagte Jourová. Es gebe bereits haarsträubende Beispiele, das Missbrauchspotenzial sei gewaltig.

    Streit um Verhofstadt-Video

    Jüngst hat ein von der ungarischen Regierung verbreiteter Videoclip über den Liberalen-Chef im Europaparlament, Guy Verhofstadt, für Aufregung gesorgt. Verhofstadt wurde in dem Clip nur mit der Aussage "Wir brauchen Migration" zitiert, woraufhin er Facebook-Gründer Mark Zuckerberg empört zu einer Löschung des Fake-News-Videos aufforderte.

    Verhofstadt sprang auch der ÖVP-Delegationsleiter im Europaparlament, Othmar Karas, zur Seite. Er bezeichnete den Clip als "inakzeptabel" und "grob irreführend". "Ich rufe den ungarischen Premier Orbán und seine Mitarbeiter dringend dazu auf, sich umgehend öffentlich zu erklären und ihren nicht mit Fakten begründbaren Propaganda-Clip sofort vom Netz zu nehmen", so Karas.

    zotmund86
    Das von der ungarischen Regierung finanzierte Video.

    Immer bessere Deepfakes

    Während es bei diesem Video um die Verzerrung einer Aussage durch entsprechenden Schnitt geht, spricht Jourová ein anderes Phänomen von beachtlichem Gefahrenpotenzial an. Bei sogenannten Deepfakes werden mithilfe von ausgeklügelten Algorithmen und künstlicher Intelligenz Gesichter in andere Videos geschnitten oder auch passend zu Audiopassagen animiert. Auch die "Übertragung" ganzer Körper ist mittlerweile im Bereich des Möglichen.

    Einerseits gibt es dafür künstlerisches Anwendungspotenzial, beispielsweise um Personen Tänze ausführen zu lassen, die sie eigentlich nicht beherrschen. Andererseits lassen sich damit eben immer realistischer aussehende Fälschungen erzeugen. So ist es etwa möglich, Politikern Aussagen in den Mund zu legen, die sie nie getätigt haben. Ein Beispiel dafür liefern etwa das US-Medium "Buzzfeed" und der Schauspieler John Peele, in einem Video, in dem der ehemalige US-Präsident Barack Obama scheinbar zum Thema referiert.

    buzzfeedvideo
    Veranschaulichung: Barack Obama spricht über Deepfakes.

    Technologie für jeden verfügbar

    Die Software, die hinter solchen Fakes steht, ist bereits breit verfügbar. Für das "Buzzfeed"-Projekt wurden das Videomanipulations-Tool Adobe After Effects und Googles freie KI-Bibliothek Tensor Flow verwendet.

    Die Pornoindustrie, oft Vorreiter im technologischen Bereich, reagiert bereits. Einerseits denkt man bei Naughty America bereits darüber nach, den Nutzern anzubieten, ihre eigenen Gesichter in explizite Filme einzubauen. Andererseits hat man bei der Plattform Pornhub die Reißleine gezogen und entfernt Videos, bei denen die Gesichter von Prominenten nachträglich eingepflegt wurden.

    deep homage
    Dieser Clip stammt eigentlich aus der Fanserie "Star Trek Continues". Die Gesichter der Darsteller Vic Mignogna (Cptn. Kirk) und Todd Haberkorn (Mr. Spock) wurden allerdings durch die Darsteller des Serienurgesteins, William Shatner und Leonard Nimoy, ersetzt.

    Im US-Verteidigungsministerium ist man sich des Problems auch bewusst. Dort läuft mittlerweile ein Projekt zur Entwicklung von Werkzeugen, die es erleichtern sollen, Deepfakes zu erkennen. Auf der Ebene der Cybersicherheit kündigt sich also ein neues Rennen zwischen Fälschern und Aufdeckern an, das sich mit der stetigen Verbesserung der technischen Möglichkeiten zu verschärfen droht. (Reuters, gpi, 21.12.2018)

    Share if you care.