Forscher entwickeln Algorithmus, der Online-Trolle erkennt

18. April 2015, 10:59
105 Postings

Ergebnis eineinhalbjähriger Forschung - Genauigkeit von 80 Prozent nach fünf Einträgen

Sie geistern in Foren herum, beleidigen andere und vergiften die Diskussionskultur: Trolle. Oftmals gehen die Menschen dahinter gefinkelt vor, sodass nicht sofort erkannt werden kann, ob der Online-Gesprächspartner sein geschriebenes Wort ernst meint oder nur provozieren möchte. Eine Studie der Universitäten Cornell und Stanford soll hierbei nun für Klarheit sorgen. Nach Auswertung von 35 Millionen Online-Postings von zwei Millionen Usern wollen die Universitäten einen Algorithmus entwickelt haben, der einen Troll von einem gewöhnlichen User unterscheiden soll.

Der Troll wird gefüttert

18 Monate lang werteten die US-Hochschulen Kommentare auf CNN, Breitbart und IGN aus. Dabei fiel den Forschern auf, dass User die von den Seiten gesperrt wurden, anders kommunizierten als die breite Masse. Die Trolle würden demnach deutlich weniger Worte verwenden, die auf eine positive Stimmung der Verfasserin oder des Verfassers hindeuten würden. Zudem wären die Kommentare schwerer zu lesen. Das Sprichwort "Don't feed the troll" (Füttere nicht den Troll) dürfte sich ebenso nicht manifestiert haben – so erhalten Troll-Postings nachweisbar mehr Antworten als gewöhnliche Kommentare.

Trolle schreiben anders

Bei ihrer Arbeit fiel den Forschern außerdem auf, dass restriktive Moderation dazu führte, dass sich mehr Trolle in den Foren aufhielten. In den 18 ausgewerteten Monaten wurden insgesamt 50.000 User von den Seiten verbannt. Bei diesen war gegenüber den nicht gesperrten Nutzern eine deutlich andere Schreibweise zu verorten – innerhalb der entfernten User konnte allerdings kein allzu großer Unterschied gefunden werden. Zuletzt wurde noch eine Ungleichheit bei der Verweildauer entdeckt: Trolle würden sich im Gegensatz zu gewöhnlichen Usern viel länger in einem Thread aufhalten.

Fünf Postings reichen aus

Mit all den Erkenntnissen entwickelten die Hochschulen einen Algorithmus, der nach fünf Kommentaren mit einer Genauigkeit von 80 Prozent erkennen kann, ob ein Nutzer in Zukunft gesperrt wird. Nach zehn Foren-Einträgen würde die Genauigkeit um weitere zwei Prozent anwachsen. Vor übereifriger und restriktiver Moderation warnten die Forscher trotzdem im Zusammenhang mit ihrer Studie – diese würde Trolle umso mehr anziehen. Stattdessen sollte den Menschen hinter den Postings eine Chance gegeben werden, die Troll-Einträge mit positiven Kommentaren wiedergutzumachen. (dk, 18.04.2015)

  • Ein Algorithmus soll Trolle nach nur fünf Postings identifizieren können.
    foto: „troll warning“ von gil - eigenes werk. lizenziert unter cc

    Ein Algorithmus soll Trolle nach nur fünf Postings identifizieren können.

Share if you care.