+
„Hass im Netz ist eine Art von Gewalt.“

Computerlinguistik

Hetze auf Twitter

Forscher entwickeln automatische Erkennung von Hassbotschaften.

Wissenschaftler arbeiten an einer automatischen Erkennung von Hassbotschaften und Beleidigungen im Internet. „Hass im Netz ist eine Art von Gewalt“, sagte die Professorin für Informationswissenschaft an der Hochschule Darmstadt, Melanie Siegel. Auf der Kurznachrichten-Plattform Twitter verbreiteten rund fünf Prozent der Teilnehmer Hassbotschaften, die bei bestimmten Themen wie Flüchtlingen oder Asylbewerbern schätzungsweise über ein Drittel aller Tweets ausmachten.

Die Computerlinguistin und ihre Mitarbeiter untersuchten im letzten Quartal 2017 und 2018 rund 8000 Tweets. Bestimmte Twitter-Accounts reagierten massiv auf Nachrichten und sendeten viele Retweets, so dass man ein automatisches Computerprogramm (Social Bot) dahinter vermuten könne, sagte die Informationswissenschaftlerin. Die meisten der Twitter-Accounts, die Hassbotschaften sendeten, seien rechtsradikal gefärbt. Nur wenige linksradikal gefärbte hätten sich darunter befunden.

Die Forscher teilten die Tweets in drei Kategorien ein, wie Siegel erläutert. Eine Kategorie erfasse Volksverhetzung, also diskriminierende Äußerungen gegenüber Gruppen. Bei einer spontanen Stichprobe der Begriffe (Hashtags) „Flüchtling“ und „Asylant“ bei Twitter vergangene Woche seien von 148 Nachrichten 28 Prozent Hassbotschaften gewesen.

Die zweite Kategorie erfasse Beleidigungen gegen einzelne Personen, häufig Politiker oder Journalisten. Eine aktuelle Stichprobe mit dem Nachnamen des Redaktionsleiters des Fernsehmagazins „Monitor“, Georg Restle, habe von 193 Tweets 39 Prozent Hassbotschaften aufgezeigt.

Der Journalist hat kürzlich eine Morddrohung erhalten, nachdem er in einem Kommentar in den ARD-“Tagesthemen“ am 11. Juli die AfD kritisiert hatte und gefordert hatte, die Partei müsse als rechtsextremistisch eingestuft werden.

Flüchtlinge und Asyl

In der dritten Kategorie würden Schimpfwörter gesammelt. Zu jeder Kategorie sei auch eine Vergleichsgruppe gebildet worden.

Ein internationales Forschernetzwerk hat sich nach den Worten von Siegel daran gesetzt, mit Hilfe dieser Daten ein Computerprogramm zu entwickeln. Das Ziel sei, Hassbotschaften automatisch zu erkennen.

Die Wissenschaftler identifizierten Merkmale wie Schimpfwörter, Formulierungen im Zusammenhang mit Schimpfwörtern („Du bist ein...“), mit Hassbotschaften verlinkte Schlagwörter (Hashtags) und Piktogramme (Emojis).

Mit diesem Material werde das Maschinenlernen trainiert. 23 internationale Forschergruppen mit je drei bis fünf Mitgliedern seien in diesem Jahr in einem Wettbewerb um das erfolgreichere Programm angetreten.

Die besten könnten Hassbotschaften schon zu 80 Prozent korrekt erkennen, aber die Entwicklung sei noch nicht abgeschlossen, sagte Siegel. Die Forscher wollten auf eine Trefferquote von deutlich über 90 Prozent kommen. Schwierig sei die Erkennung von indirekten Hassbotschaften ohne Schimpfwörter, die sich etwa der Ironie oder der Übertreibung bedienten. Wenn das Programm ausgereift sei, könne es etwa eine Kommentarfunktion in sozialen Medien überwachen und Alarm schlagen, kündigte Siegel an. (epd)

Das könnte Sie auch interessieren

Kommentare

Liebe Leserinnen und Leser,

wir bitten um Verständnis, dass es im Unterschied zu vielen anderen Artikeln auf unserem Portal unter diesem Artikel keine Kommentarfunktion gibt. Bei einzelnen Themen behält sich die Redaktion vor, die Kommentarmöglichkeiten einzuschränken.

Die Redaktion