Instagram nutzt künstliche Intelligenz gegen Hasskommentare

30. Juni 2017, 12:44
18 Postings

Neues Filtersystem lernt automatisch dazu und ist nun automatisch aktiv – Poster bemerken Löschung nicht

Instagram will schärfer gegen Hasskommentare vorgehen, und greift dabei zu den Möglichkeiten des Maschinenlernens. Ab sofort wird künstliche Intelligenz verwendet, um entsprechende Kommentare zu erkennen und infolge zu entfernen, dies kündigt Facebook in einem Blogeintrag an.

Update

Zwar hatte Instagram schon jetzt ein Filtersystem, dieses bediente sich aber einer simplen Wortliste, um potentiell problematische Kommentare aufzuspüren. Entsprechend konnte es auch recht einfach ausgetrickst werden. Vor allem aber war das alte Filtersystem gar nicht von Haus aus aktiviert, sondern musste erst manuell von den Usern einzeln für ihre Accounts angeschaltet werden. Das neue System wird hingegen immer genutzt.

Als problematisch identifizierte Postings werden übrigens nur ausgeblendet, was eine interessante Konsequenz hat: Der jeweilige Kommentator sieht seinen Eintrag weiter, weiß also gar nicht, dass die anderen diesen nicht angezeigt bekommen. Derzeit gibt es allerdings noch eine bedeutende Einschränkung: Das System funktioniert bislang nur auf Englisch. Weitere Sprachen sollen nach und nach hinzukommen, betont allerdings Facebook.

Spam

Parallel dazu wurde auch ein neues Spam-System vorgestellt, das ebenfalls Maschinenlernen zur Identifizierung solcher Beiträge einsetzt. Dieses sei bereits seit letztem Oktober im Einsatz, man habe diesen Umstand nur einfach noch nicht öffentlich bekanntgegeben. (red, 30.6.2017)

  • Artikelbild
    grafik: facebook
    Share if you care.