Hassreden im Social Web
KI-basierter Algorithmus erkennt Hatespeech zu 90 %

Hatespeech-Erkennung, © Rynio Productions – Fotolia

Forscher haben im Auftrag von Yahoo einen Algorithmus entwickelt, der verbale Gewalt, sogenannten Hatespeech, mit hoher Treffsicherheit erkennt. Wie es in einem Bericht der Technology Review heißt, basiert die Genauigkeit des Algorithmus auf maschinellem Lernen. Die Forscher haben ihn mithilfe von Nutzerkommentaren trainiert, die von anderen Nutzern als „Hassrede“ gemeldet worden waren.

Der Algorithmus soll solche Kommentare in neun von zehn Fällen erkennen können, auch wenn die einzelnen Wörter eines Kommentars für sich genommen völlig harmlos sind. Ob und wann ein automatisierter Hatespeech-Filter bei Yahoo oder andernorts in den praktischen Einsatz geht, ist aber noch völlig offen. (Quelle: Technology Review/db)