Digitalisierung und Medien / Kinder- und Jugendschutz

Neue Technologie erkennt deutsche Hassbotschaften in sozialen Medien

Eine Grafik zum Thema Cyber-Mobbing
Bild: © thingamajiggs - Fotolia.com

Bisher wurden hauptsächlich englischsprachige Twitter-Profile aufgrund von Hassbotschaften gesperrt, während vergleichbare deutsche Profile häufig unbemerkt blieben. Wissenschaftler/-innen der Universität Antwerpen und der Universität Hildesheim haben nun ein Computerprogramm entwickelt, das in Echtzeit automatisiert hetzerische Wörter und Wortkombinationen in Tweets aufspüren kann.

Wissenschaftlerinnen und Wissenschaftler der Universität Antwerpen und der Universität Hildesheim haben einen Hate Speech-Detektor für Twitter entwickelt.

Zusammenhang zwischen Hassbotschaften und Gewalt

Die EU setzt große Tech-Unternehmen wie Twitter, Facebook und Google unter Druck, verstärkt gegen Hate Speech im Netz vorzugehen. In Deutschland zwingt das neue Netzwerkdurchsetzungsgesetz (NetzDG) die sozialen Medien nun, Inhalte, die als Hate Speech gelten können, innerhalb von 24 Stunden zu entfernen. So wurde beispielsweise jüngst eine AfD-Politikerin zeitweise auf Twitter blockiert. Wie eine neue Studie der Universität Warwick zeigt, besteht ein signifikanter Zusammenhang zwischen Hassbotschaften in deutschen sozialen Medien und körperlicher Gewalt gegenüber Flüchtlingen.

Prüfung aller gemeldeten Tweets durch Menschen schwierig

Seit 2016 hat Twitter bereits hunderttausende Profile blockiert, die Hass verbreiten und zu Gewalt aufrufen. Allerdings gilt dies hauptsächlich für englischsprachige Profile, während vergleichbare deutsche, französische oder niederländische Tweets häufig unbemerkt bleiben. Jeden Tag werden über 500 Millionen neue Tweets veröffentlicht – ein schwieriges Unterfangen also. Wenn Twitter 10.000 Angestellte hätte, die die neuen Tweets überwachen, müsste jeder von ihnen täglich 50.000 Tweets lesen. Das wären ein bis zwei pro Sekunde, ohne Mittagspause gerechnet.

Hate Speech-Detektor

Im letzten Jahr haben der Sprachtechnologe Tom De Smedt von der Forschergruppe Computerlinguistik der Universität Antwerpen (Belgien) und die Medienlinguistin Sylvia Jaki vom Institut für Übersetzungswissenschaft und Fachkommunikation der Universität Hildesheim ein Computerprogramm entwickelt, das in der Lage ist, in Echtzeit automatisiert hetzerische Wörter und Wortkombinationen in Tweets aufzuspüren.

Politisch motivierte Hassbotschaften besser erkennen

Das neue Computerprogramm ist Teil eines Projekts, in dem die beiden Forscher die politische Kommunikation im Kontext der Bundestagswahl 2017 untersuchen. Um herauszufinden, wie bestimmte Politiker kommunizieren und wie Menschen in den sozialen Medien auf politische Themen reagieren, analysieren sie Polit-Talkshows im deutschen Fernsehen sowie Kommentare in sozialen Medien von Politikern und politischen Parteien bzw. solche über und für sie. „Um ein besseres Verständnis zu gewinnen, wie politisch motivierte Hassbotschaften in den sozialen Medien aussehen, berücksichtigen wir auch nonverbale Elemente wie Bilder oder Emojis – Twitter-Kommentare sind schließlich nicht rein verbal“, sagt Sylvia Jaki.

Selbstlernende Software liege in 80% der Fälle richtig

Die Sprachtechnologen in Antwerpen haben bereits Erfahrung mit der Implementierung von Programmen im Bereich Cyber-Sicherheit, zum Beispiel, wenn es um die Erkennung von dschihadistischen Inhalten geht. „Die Software lernt selbstständig, Hasskommentare aufzuspüren, und kann auch mit der Tatsache umgehen, dass sich die Sprache des Hasses sehr schnell verändert“, so De Smedt. „Wir haben unser Programm bereits getestet: In 80 Prozent der Fälle liegt es richtig. Wir könnten uns gut vorstellen, mit den deutschen Behörden zusammen zu arbeiten, aber wir müssen gleichzeitig auch vorsichtig sein, wie wir als Gesellschaft solche Technologien nutzen. Die EU verfügt über keine rechtsgültige Definition, was genau unter Hate Speech zu verstehen ist.“

Inhalte deutscher Hasskommentare

Der Algorithmus der beiden Linguisten zeigt, dass sich deutsche Hasskommentare häufig gegen Flüchtlinge aus Afrika, Muslime, Juden und einige andere Bevölkerungsgruppen (Polen und Ungarn, gebrochen deutsch Sprechende, Gefährder und Kriminelle, Obdachlose, Gutmenschen, Linksextremisten, Frauen) richten. Typisch sind Ausdrücke der Gewalt und Beschimpfungen im Allgemeinen.

Die beiden Wissenschaftler arbeiten derzeit an der Publikation ihrer Ergebnisse.

Quelle: Stiftung Universität Hildesheim vom 22.02.2018

Info-Pool