Die leichte Zugänglichkeit von KI-Bildertools wie Midjourney, Dall-E oder Stable Diffusion führt auch dazu, dass Menschen in Social Networks mit künstlicher Intelligenz erstellte Bilder von allen möglichen Dingen teilen, die ihnen in den Sinn kommen. Das Ziel: Freunde und Bekannte unterhalten sowie Likes und Re-Shares sammeln, um zum Beispiel vom Facebook-Algorithmus besser eingestuft zu werden und somit eine höhere Sichtbarkeit zu genießen.

Neben Privatpersonen wird dies auch von Influencern und Unternehmen praktiziert, um die Sichtbarkeit der eigenen Facebook-Pages zu erhöhen. Und auch Kriminelle nutzen diese Strategie, wie Forscher der Stanford University in einem aktuellen Paper erläutern. Ein an dieser Stelle verwendetes Sujet ist der "Garnelen-Jesus", den es auch in verschiedenen anderen Inkarnationen gibt: als Krabben-Jesus, Wassermelonen-Jesus, Fanta-Jesus oder Spaghetti-Jesus.

Das Bild fasziniert und erheitert, und es lädt zum Teilen ein, damit auch andere Menschen im eigenen Freundeskreis in den Genuss dieses Werks kommen. Doch die Unterhaltung ist nicht das Ziel der Kriminellen, auch werden sie nicht von ideologischen Motiven angetrieben, wie die Forschenden im Paper erläutern. Stattdessen sollen die Bilder und die damit verbundenen Facebook-Pages einen viralen Status erhalten, um die Menschen nachher zu spammen oder über Links auf betrügerische Websites zu locken. Diese bieten das übliche Portfolio der Cyberkriminalität, etwa das Abgreifen von persönlichen Informationen oder das Verkaufen inexistenter Produkte.

Über 50 KI-Bilder pro Seite

Die Forschenden haben für ihre Studie über 100 Facebook-Seiten analysiert, die jeweils mehr als 50 via KI generierte Bilder verbreiteten. Manche bildeten auch koordinierte Cluster, über welche mehr Bilder gemeinsam verbreitet wurden. In den Kommentaren unter den Bildern werden die User ebenfalls manipuliert, persönliche Daten preiszugeben oder auf spezifische Links zu betrügerischen Websites zu klicken.

Der Garnelen-Jesus ist dabei nur ein besonders schillerndes Beispiel, welcher von den Betreibern einer Facebook-Seite erstellt wurde, die Clickbait-Links zu einer Content-Farm teilten. Andere Bilder zeigen eher bodenständige Motive wie Haushaltsgegenstände, Häuser oder Malereien, die angeblich von Kindern angefertigt wurden. Und auch wenn manche User in den Kommentaren vor den Betrügern warnen: Die Forschungsarbeit der Stanford University zeigt, dass sich viele Userinnen und User der Problematik nicht bewusst sind.

Metas Mitschuld

Auffällig ist den Forschenden zufolge aber auch, dass die besagten Bilder in den Feeds der potenziellen Opfer erscheinen, auch wenn diese den jeweiligen Facebook-Seiten noch nicht folgen: Es entstehe sogar der Eindruck, dass Facebook die Verbreitung dieser Inhalte über den eigenen Algorithmus aktiv unterstütze. Die Studie unterstreiche dementsprechend die Notwendigkeit, KI-Inhalte besser zu kennzeichnen und zu moderieren. (red, 21.3.2024)