Olga Loiek ist eine 21-jährige Studentin an der University of Pennsylvania. Die gebürtige Ukrainerin startete zum Spaß einen Youtube-Kanal und lieferte damit unwissentlich Daten für mehrere KI-Doppelgängerinnen.

Diese künstlich geschaffenen Spiegelbilder Loieks, eine heißt laut einem Reuters-Bericht "Natasha", gaben vor, russische Frauen zu sein. In fließendem Chinesisch bedanken sie sich auf diversen Social-Media-Plattformen, wo sie etwa Süßigkeiten verkaufen, für die Unterstützung Chinas.

Kein Einzelfall

Durch die zahlreichen künstlich erstellten Videos und die Hilfe tausender Bots konnten die gefälschten Konten in China Hunderttausende von Followern gewinnen, weit mehr als die Youtuberin Loiek selbst.

"Das ist buchstäblich wie mein Gesicht, das Mandarin spricht, und im Hintergrund sehe ich den Kreml und Moskau, und ich spreche darüber, wie großartig Russland und China sind", sagte Loiek gegenüber Reuters. "Das war wirklich unheimlich, denn das sind Dinge, die ich im Leben nie sagen würde."

Loieks Fall ist repräsentativ für eine zunehmende Zahl von scheinbar russischen Frauen auf chinesischen Social-Media-Plattformen, die ihre Liebe zu China in fließendem Chinesisch zeigen und behaupten, Russland im Krieg zu unterstützen, indem sie Importe aus ihrer Heimat verkaufen.

Allerdings existieren diese Frauen alle nicht. Sie werden durch den Missbrauch von Clips realer Frauen, die online gefunden werden, von KI erstellt. Die Videos werden dann dazu genutzt, um Produkte an einzelne chinesische Männer zu verkaufen, sagen Experten.

Die Konten mit Loieks Bild haben Hunderttausende von Followern und bereits zehntausende Dollar an Produkten verkauft. Einige der Beiträge enthalten einen dezenten Hinweis, dass sie möglicherweise mithilfe von KI erstellt wurden. Jedoch scheint das vielen Männern zu entgehen.

China und Russland

Avatare wie Loieks nutzen die "starke Partnerschaft" zwischen Russland und China, die zwischen den beiden Ländern im Jahr 2022 erklärt wurde, als der russische Präsident Wladimir Putin kurz vor der Invasion in die Ukraine Peking besuchte.

Jim Chai, der Geschäftsführer von XMOV, einem Unternehmen, das fortschrittliche KI-Technologie entwickelt und nicht in Loieks Situation involviert ist, sagt, dass die Technologie zum Erstellen solcher Bilder "sehr verbreitet ist, da viele Leute sie in China benutzen".

"Um zum Beispiel meinen eigenen digitalen Menschen zu produzieren, muss ich nur ein 30-minütiges Video von mir selbst drehen und dann das Video nachbearbeiten", sagt Chai. Das sähe mittlerweile schon sehr real aus, und sogar das Ändern der Sprache sei mittlerweile kein sehr komplexer Prozess mehr.

Unethisch und illegal

Künstliche Intelligenz ist schon seit Monaten ein heiß diskutiertes Thema, und Loieks Geschichte verdeutlicht die Risiken illegaler oder unethischer Anwendungen als mächtige Werkzeuge zur Erstellung und Verbreitung von Inhalten, die weltweit immer häufiger werden. Bedenken hinsichtlich KI, die zur Verbreitung von Fehlinformationen, gefälschten Nachrichten und urheberrechtlich geschütztem Material beiträgt, haben sich in den letzten Monaten verstärkt, da die Popularität von generativen KI-Systemen wie ChatGPT zunimmt.

Im Jänner legte China Entwurfsrichtlinien zur Standardisierung der KI-Industrie vor, in denen vorgeschlagen wird, bis 2026 mehr als 50 nationale und branchenweite Standards zu schaffen. Das KI-Gesetz der EU, das strenge Transparenzverpflichtungen für KI-Systeme mit hohem Risiko vorsieht, trat diesen Monat in Kraft und setzt damit einen möglichen globalen Maßstab.

Dennoch sagte Xin Dai, außerordentlicher Professor an der Rechtsschule der Peking University, dass die Regulierung Schwierigkeiten habe, mit der Geschwindigkeit der KI-Entwicklung Schritt zu halten. "Wir können nur vorhersagen, dass mit immer leistungsfähigeren Werkzeugen zur Erstellung von Informationen, zur Erstellung von Inhalten und zur Verbreitung von Inhalten im Grunde genommen jede nächste Minute verfügbar wird", sagte Dai.

"Ich denke, das Entscheidende hier ist, dass das Volumen einfach zu groß ist ... nicht nur in China, sondern auch im allgemeinen Internet überall", fügte er hinzu. (Reuters, red, 21.6.2024)