Elon Musks Social Network X, vormals Twitter genannt, hat ein Nazi-Problem. Das ergeben Recherchen des US-Senders NBC. Extremistische Äußerungen, Drohungen und ähnliche Inhalte sollen laut Regelwerk entweder gelöscht oder in ihrer Reichweite stark eingeschränkt werden. Dennoch florieren Botschaften mit nationalsozialistischen Inhalten mit Millionen Aufrufen. Im Epizentrum davon stehen mindestens 150 Konten mit blauem Haken.

Das bedeutet, dass die Betreiberinnen und Betreiber der fraglichen Konten Monat für Monat Geld an X überweisen, um im Rahmen ihres X-Premiumabos längere Postings absetzen zu können, bei Suchergebnissen und bei der Anzeige von Antworten vorgereiht zu werden und als "verifiziert" zu gelten. Zum Zeitpunkt der Untersuchung in einer Woche Ende März war es Nutzern bereits möglich, den blauen Haken zu verstecken, es könnte also noch mehr Premiumaccounts geben, die derartige Inhalte erstellen und verbreiten. Im März hatte X außerdem auch noch keine kostenlosen Premiumabos an Accounts mit über 2.500 verifizierten Follower ausgegeben.

Holocaustleugnung, Hitler-Verehrung

Die Bandbreite der schwer problematischen Inhalte deckt die Klassiker (neo)nazistischen Gedankenguts ab. Beispielsweise wird abgestritten, dass im Rahmen des Holocausts sechs Millionen Juden vom Nazi-Regime umgebracht wurden. Dazu gesellten sich Postings mit antisemitischen Botschaften, Verehrung von NS-Soldaten, NS-Symbolen sowie Adolf Hitler, NS-Propagandaminister Joseph Goebbels und dem Regime an sich.

Für die Weiterverbreitung einer antisemitischen Verschwörungstheorie stand auch Musk selbst schon stark in der Kritik.
REUTERS/GONZALO FUENTES

Diese Postings wurden von zahlreichen anderen Konten weiterverbreitet, oft hunderte Male. Insgesamt erzielten die beobachteten Pro-Nazi-Inhalte allein in einer Woche im März 4,5 Millionen Aufrufe. Der erfolgreichste Beitrag leugnete den Holocaust, wurde von mehr als 5.300 anderen Nutzern – verifiziert und unverifiziert – weiter geteilt und schaffte es damit auf 1,9 Millionen Aufrufe. NBC fand die fraglichen Inhalte durch manuelle Durchsuchung der Plattformen, Beschau der Antworten auf Postings mit NS-Glorifizierung und die Auswertung der von X angezeigten Anzahl an Aufrufen. Die Ergebnisse zeigen, dass X seine Regeln in Bezug auf Gewalt und Hassrede nicht konsistent anwendet.

Bedenklich ist, dass das Netzwerk auch finanziell von diesen Umtrieben profitiert. Einerseits zahlen die beobachteten Premiumaccounts monatlich Geld für längere Beiträge und bessere Reichweite, andererseits wird bei ihren Konten und Inhalten auch Werbung eingeblendet. NBC fand bei 74 der 150 Konten Werbeanzeigen, die entweder direkt auf deren Profilseite oder zwischen Antwortpostings eingeblendet wurden. Geworben wurde unter anderem für den Radiobetreiber SiriusXM und das Newsportal "The Hollywood Reporter".

Werbetreibende haben allerdings keine direkte Kontrolle darüber, wo und an welche Nutzer X letztlich ihre Anzeigen ausspielt. Sie können demografische und geografische Merkmale, Interessen und auch bestimmte Ausschlusskriterien wählen, nach denen sich die Ausspielung richtet. Dementsprechend lässt sich nicht sagen, welche und wie viele verschiedene Firmen neben Nazi-Inhalten beworben wurden.

Wiederkehrendes Problem

Hassrede und extremistischer Content auf X waren in der Vergangenheit aber immer wieder Thema. Schon vor der NBC-Untersuchung hatten auch schon andere Organisationen immer wieder auf vermehrtes Aufkommen von Hassrede hingewiesen. Musk hat nach seiner Übernahme des Netzwerks unter anderem das Moderationsteam personell massiv reduziert. Ende Jänner kündigte die von ihm eingesetzte CEO Linda Yaccarino an, wieder mehr Moderatoren anheuern zu wollen. Für ein neues "Trust and Safety"-Büro, das im texanischen Austin aufgebaut wird, wollte man 100 Vollzeitkräfte an Bord holen. Der Fokus der Zweigstelle liege aber weniger auf Hassrede, sondern vor allem auf Postings in Bezug auf Kindesmissbrauch. Anfang April stellte man schließlich auch Yale Cohen als neue Verantwortliche zur Bekämpfung von extremistischen Inhalten vor.

Wachsende Probleme mit NS-Bejubelung, Antisemitismus, weißem Nationalismus und ähnlichen Inhalten sowie problematische Äußerungen von Musk selbst haben zahlreiche Werbetreibende von X vertrieben oder dazu geführt, dass sie ihre Ausgaben auf dem Netzwerk stark reduzierten. Der Eigentümer reagierte darauf allerdings lange nicht mit Gegenmaßnahmen, sondern beschuldigte jene Organisationen, die auf die Entwicklung öffentlich hingewiesen hatten, seiner Plattform absichtlich schaden zu wollen.

Im September 2023 hatte Musk eine milliardenschwere Klage gegen die Anti-Defamation League (ADL) angekündigt, nachdem diese auf wachsenden Antisemitismus auf X als Folge unzureichender Moderation hingewiesen hatte. Vor Gericht landete die Causa aber letztlich nicht. Einen Monat später erklärte die ADL, dass man begrüße, dass X nun mehr gegen Antisemitismus tun wolle, und man hoffe, mit der Plattform dafür zusammenarbeiten zu können. Dazu werde man auch selber wieder Werbung schalten.

Digitaler Hass, reale Folgen

Hass in sozialen Netzwerken kann schwere reale Folgen haben. Megan Squire vom Southern Poverty Law Center erklärt, dass es bei Botschaften mit NS-Bezug auf X üblicherweise um die Verbreitung von Hass geht. "Es ist nicht so, dass sich dort Historiker über Hitler-Reden austauschen würden", sagt die Expertin. Rassistische Gruppen würden versuchen, ihre Ideen zu normalisieren, Anhänger zu gewinnen und diese dann dazu zu bringen, auf verschiedenen Onlineplattformen aktiv zu werden.

Patrick Riccards, Leiter der Organisation Life After Hate, die Mitgliedern gewalttätiger, extremistischer Organisationen beim Ausstieg hilft, sagt, dass das Aufkommen von NS-glorifizierenden Inhalten wie eine "große, warme Umarmung" für jene sei, die dem Hass verfallen seien. Ihre Ansichten würden damit validiert, und es treibe sie dazu an, andere für ihre Sache zu rekrutieren und schließlich auch zu physischer Gewalt zu greifen. Er verweist dabei auf den Anschlag auf einen Supermarkt in Buffalo 2022, bei dem zehn Afroamerikaner getötet wurden. Der Täter hatte sich in einem von ihm verfassten Text zum Neonazismus bekannt und vor Gericht erklärt, dass er geglaubt habe, was er online gelesen hatte, was ihn schließlich dazu brachte, selbst die Waffe in die Hand zu nehmen.

NBC hatte nach der Untersuchung auch X um eine Stellungnahme gebeten. Ein Vertreter des Netzwerks reagierte mit einer Bitte um Verweise auf Pro-Nazi-Postings. Der Sender übermittelte 13 Beispiele. Einige Stunden später war ein Teil der Postings mit Warnhinweisen versehen, sämtliche Beiträge waren aber nach wie vor online abrufbar. Im vergangenen September hatte das Netzwerk erklärt, gegenüber Antisemitismus und Gewalt eine "Null-Toleranz"-Politik pflegen zu wollen. (gpi, 17.4.2024)