Digitale Hetze

Dem Hass auf der Spur

Von Thomas Magenheim-Hörmann

Das CeMAS-Gründungsteam Pia Lamberty, Jan Rathje, Rocio Rocha Dietz, Josef Holnburger und Miro Dittrich (von links nach rechts).

Mit ihrem Start-up Cemas will ein Team um die Expertin Pia Lamberty Radikalisierungstendenzen bei Telegram und Co. aufdecken. Die Hetze im Netz erleben sie alle täglich selbst.

Tief oder im Geheimen schürfen muss man nicht, um zu entdecken, was Pia Lamberty täglich sieht. „Man braucht nicht ins Darknet zu gehen“, stellt die Sozialpsychologin klar. Es reiche zum Beispiel, beim Messengerdienst Telegram das Stichwort Impfpass einzugeben, und schon spucke die Suche öffentlich frei zugängliche Gruppen aus, in denen mit gefälschten Corona-Impfausweisen gehandelt werde. „Es gibt auch Drogen oder Waffen, und bezahlt wird dann meistens mit Cryptowährung“, schildert die 37-Jährige die Onlinewelt von Verschwörungsgläubigen, Rechtsradikalen oder Internetnutzer:innen, die sie „Fake-News-Schleudern“ nennt. Um auf die aufmerksam zu machen und vor ihnen zu warnen, haben Lamberty und vier weitere Geisteswissenschaftler:innen in Berlin das gemeinnützige Start-up Cemas gegründet.

„Wir haben alle auch Spezialisierung im Digitalbereich“, erklärt die Frau, die wie ihre Mitstreiter:innen selbst schon zum Hassobjekt geworden ist. „Drohungen, Hassmails und Beleidigungen bekommen wir alle“, sagt sie. Lamberty ist einiges gewohnt und schreddert mittlerweile Briefe wie Büromüll, um darin keine Spuren für diejenigen zu hinterlassen, die irgendwann nicht mehr nur verbal hetzen, sondern zur Tat schreiten.

Recherchen im Coronaleugner-Milieu: Cemas setzt auf Technik und persönliche Fachexpertise

Mit einer Mischung aus Technik und persönlicher Expertise durchforstet das Quintett derzeit noch ausschließlich Telegram. „Das ist die wichtigste Plattform für das verschwörungsideologische Milieu“, sagt Lamberty. Gleich dahinter komme das Foto- und Videonetzwerk Instagram, in dem die rechtsextreme Szene ebenfalls zunehmend aktiv sei. Sobald die Kapazitäten des Centers für Monitoring, Analyse, Strategie (Cemas) ausreichen, soll auch dieses Netzwerk ausgewertet werden. Ziel des Ende März gegründeten Start-ups ist es, Behörden, Medien oder Firmen ein Frühwarnsystem für Radikalisierungstendenzen im Internet zur Verfügung zu stellen.

Werbung
Werbung

Pia Lamberty, Geschäftsführerin von CeMAS.

Wenn beispielsweise eine Zeitung Reporter:innen oder Fotograf:innen zu einer Demonstration von Coronaleugner:innen schickt, kann Cemas sagen, ob dort im Vorfeld gegen Medienschaffende mobilisiert wird. „Wir haben ein gutes Bild, wie gefährlich etwas ist“, sagt Lamberty. Im deutschsprachigen Raum habe es so etwas wie Cemas bis dato noch nicht gegeben. In den USA hätten Kolleg:innen beispielsweise schon im Dezember 2020 durch Überwachung öffentlich zugänglicher Internetforen den Sturm auf das Capitol in der Hauptstadt Washington im Folgemonat vorhergesagt. Wirklich ernst genommen habe diese Warnungen niemand, sagt Lamberty. So sei das auch noch viel zu oft hier zu Lande.

Kann Künstliche Intelligenz helfen, klassische Codes von Radikalen aufzuspüren?

„Das Digitale wird unterschätzt“, warnt sie. Aber Gewalttaten würden sich dort oft ankündigen. Wissen über Radikalisierungsverläufe, das bislang fehlt, will Cemas aber nun liefern. Die kommenden drei Jahre finanziell sorgenfrei möglich gemacht hat die Alfred Landecker Stiftung, die sich dem Kampf gegen Antisemitismus sowie Hetze im Internet verschrieben hat. Sie unterstützt Cemas mit 2,8 Millionen Euro.

„Antidemokratische Radikalisierung geschieht nicht im Vakuum, sondern in öffentlichen digitalen Räumen und mit dramatischen Folgen für unsere Gesellschaft, online wie offline“, sagt der Gründungsdirektor der Stiftung, Andreas Eberhardt. Diese verstehe sich als Inkubator für Unternehmen wie Cemas, die sich diesen Entwicklungen entgegenstellen.

Wie es nach dieser Anschubfinanzierung weitergeht, wissen Lamberty und ihre Mitstreiter:innen noch nicht. Spendenfinanzierung sei eine Möglichkeit, das kommerzielle Anbieten von Cemas-Diensten etwa für Unternehmen, die im Internet Opfer von Hetze oder Verschwörungsgläubigen werden, eine andere. Aktuell suche man erst mal weiteres Personal, unter anderem im IT-Bereich. Auch der Einsatz von künstlicher Intelligenz (KI) werde geprüft, sagt Lamberty. Die Frage sei, ob Sprach-KI mit den Andeutungen und Codes zurechtkomme, derer sich Verschwörungsgläubige, Antisemit:innen oder Rechtsradikale oft bedienten. Es bedürfe eines geschulten Auges, die Sprache der Hetzer:innen richtig zu verstehen.

Lesen Sie auch: Digitale Bildung per Handyspiel - im Dschungel der versteckten Codes

Für wirklich unerreichbar hält Lamberty übrigens nur zehn bis 15 Prozent der sich im Internet tummelnden Szene. „Die haben dann ein geschlossenes Weltbild, wo man nicht mehr reinkommt.“ Mit dem großen Rest könne man noch reden. Die Cemas-Mitgründerin glaubt nicht, dass das Problem mit dem Ende der Pandemie verschwindet. Denn gegeben habe es das Milieu schon vor deren Ausbruch. Mit der Corona-Krise hätten sich Hetzer:innen und Leugner:innen aller Couleur nun vernetzt wie nie zuvor. „Darauf kann man zurückgreifen“, warnt Lamberty und nennt dafür anfällige Themen wie den Klimawandel oder Briefwahl.