Plattform-Inhaber Musk muss sich mittlerweile fast täglich mit Desinformations-Vorwürfen auseinandersetzen.
EPA/Lukasz Gagulski

Diese Woche sorgten pornografische Deepfakes von Sängerin Taylor Swift für Aufregung im Internet. Vor allem auf X, früher Twitter, verbreiteten sich die Fake-Bilder rasend schnell. Ein Warnschuss, wie gefährlich KI-generierte Bilder heute schon sein können.

Machtlosigkeit

Eigentlich sind manipulierte Medien, also Bilder oder Videos, auf X nicht erlaubt, sagen zumindest die Richtlinien der Nachrichtenplattform. Am Freitag meldete sich das Sicherheitsteam von X, dass sie "aktiv alle identifizierten Bilder entfernen" und "passende Maßnahmen gegen die verantwortlichen Accounts" durchführen würden. Am Samstag meldeten die ersten X-User, dass der Name Taylor Swift in der Suche keine Ergebnisse mehr liefere.

Ebenso diverse Kombinationen bestehend aus dem Namen der Künstlerin und den Begriffen "AI" oder "Deepfake" wurden offenbar von der Plattform komplett gesperrt. Dennoch wurden im Bereich "Medien"-Reiter manche der Bilder noch angezeigt, auch diverse Deepfakes.

Die großen Social-Media-Plattformen scheitern daran, KI-generierte Inhalte von ihren Plattformen fernzuhalten, schrieb diese Woche passend dazu die "Mashable"-Reporterin Meera Navlakha. Der Zugang zum Schaffen solcher Bilder sei mittlerweile sehr einfach, genau wie das schnelle Hochladen solcher Inhalte auf große Plattformen. Das Sperren ganzer Begriffe und Namen, wie im Falle von Swift, zeige die Machtlosigkeit von X und Co. Auch Forscher und Politiker sind sich zunehmend einig, dass sich Deepfakes zu einem wirksamen Desinformationsinstrument entwickeln. Gewöhnlichen Internetnutzern wird es dadurch ermöglicht, unzulässige Bilder oder erniedrigende Darstellungen von Personen in der Öffentlichkeit zu erstellen.

Egal ob dieser Fall oder auch die gefälschten Anrufe von Präsident Biden in der Vorwoche, es zeigt sich mittlerweile regelmäßig, wie sehr die weltweiten Regulierungen in Sachen KI noch hinterherhinken. Zumindest im weißen Haus bezeichnete man die Situation bereits "alarmierend". Die Pressesprecherin Karine Jean-Pierre bemängelte öffentlich die fehlende Rechtsprechung zu dem Thema und versprach in ihrer kurzen Rede, man würde sich das Thema demnächst im US-Kongress genauer ansehen werde.

X, Taylor Swift
Begriffe einfach zu blockieren kann wohl kein langfristiger Plan der Nachrichtenplattformen sein können.
X

100 neue Mitarbeiterinnen

Nicht nur Deepfakes sind ein großes Problem der großen Social-Media-Plattformen. Am Mittwoch muss sich X-CEO Linda Yaccarino vor dem Justizausschuss des Senats bezüglich des Umgangs der Plattform mit Kindesmissbrauchsdarstellungen und Hass im Netz rechtfertigen. Als erste Maßnahme im Vorfeld der Anhörung kündigte X am Freitag an, man werde demnächst 100 Vollzeitstellen für die "Content Moderation" einstellen.

Nachdem Musk bei seiner Übernahme von X im Bereich der Moderation starke Kürzungen vorgenommen hat, soll diese neue Abteilung künftig diese heiklen Themen besser in den Griff bekommen. Laut Stellenausschreibung, werden sich die neuen Mitarbeiterinnen und Mitarbeiter speziell um "Spam und Betrug" kümmern. Im Superwahljahr und mit der steigenden Flut an KI-generierten Bildern, wird in jedem Fall viel zu tun sein. (red, 28.1.2024)