Digitalisierung und Medien
Neue Technologie erkennt deutsche Hassbotschaften in sozialen Medien
Bisher wurden hauptsächlich englischsprachige Twitter-Profile aufgrund von Hassbotschaften gesperrt, während vergleichbare deutsche Profile häufig unbemerkt blieben. Wissenschaftler/-innen der Universität Antwerpen und der Universität Hildesheim haben nun ein Computerprogramm entwickelt, das in Echtzeit automatisiert hetzerische Wörter und Wortkombinationen in Tweets aufspüren kann.
26.02.2018
Wissenschaftlerinnen und Wissenschaftler der Universität Antwerpen und der Universität Hildesheim haben einen Hate Speech-Detektor für Twitter entwickelt.
Zusammenhang zwischen Hassbotschaften und Gewalt
Die EU setzt große Tech-Unternehmen wie Twitter, Facebook und Google unter Druck, verstärkt gegen Hate Speech im Netz vorzugehen. In Deutschland zwingt das neue Netzwerkdurchsetzungsgesetz (NetzDG) die sozialen Medien nun, Inhalte, die als Hate Speech gelten können, innerhalb von 24 Stunden zu entfernen. So wurde beispielsweise jüngst eine AfD-Politikerin zeitweise auf Twitter blockiert. Wie eine neue Studie der Universität Warwick zeigt, besteht ein signifikanter Zusammenhang zwischen Hassbotschaften in deutschen sozialen Medien und körperlicher Gewalt gegenüber Flüchtlingen.
Prüfung aller gemeldeten Tweets durch Menschen schwierig
Seit 2016 hat Twitter bereits hunderttausende Profile blockiert, die Hass verbreiten und zu Gewalt aufrufen. Allerdings gilt dies hauptsächlich für englischsprachige Profile, während vergleichbare deutsche, französische oder niederländische Tweets häufig unbemerkt bleiben. Jeden Tag werden über 500 Millionen neue Tweets veröffentlicht – ein schwieriges Unterfangen also. Wenn Twitter 10.000 Angestellte hätte, die die neuen Tweets überwachen, müsste jeder von ihnen täglich 50.000 Tweets lesen. Das wären ein bis zwei pro Sekunde, ohne Mittagspause gerechnet.
Hate Speech-Detektor
Im letzten Jahr haben der Sprachtechnologe Tom De Smedt von der Forschergruppe Computerlinguistik der Universität Antwerpen (Belgien) und die Medienlinguistin Sylvia Jaki vom Institut für Übersetzungswissenschaft und Fachkommunikation der Universität Hildesheim ein Computerprogramm entwickelt, das in der Lage ist, in Echtzeit automatisiert hetzerische Wörter und Wortkombinationen in Tweets aufzuspüren.
Politisch motivierte Hassbotschaften besser erkennen
Das neue Computerprogramm ist Teil eines Projekts, in dem die beiden Forscher die politische Kommunikation im Kontext der Bundestagswahl 2017 untersuchen. Um herauszufinden, wie bestimmte Politiker kommunizieren und wie Menschen in den sozialen Medien auf politische Themen reagieren, analysieren sie Polit-Talkshows im deutschen Fernsehen sowie Kommentare in sozialen Medien von Politikern und politischen Parteien bzw. solche über und für sie. „Um ein besseres Verständnis zu gewinnen, wie politisch motivierte Hassbotschaften in den sozialen Medien aussehen, berücksichtigen wir auch nonverbale Elemente wie Bilder oder Emojis – Twitter-Kommentare sind schließlich nicht rein verbal“, sagt Sylvia Jaki.
Selbstlernende Software liege in 80% der Fälle richtig
Die Sprachtechnologen in Antwerpen haben bereits Erfahrung mit der Implementierung von Programmen im Bereich Cyber-Sicherheit, zum Beispiel, wenn es um die Erkennung von dschihadistischen Inhalten geht. „Die Software lernt selbstständig, Hasskommentare aufzuspüren, und kann auch mit der Tatsache umgehen, dass sich die Sprache des Hasses sehr schnell verändert“, so De Smedt. „Wir haben unser Programm bereits getestet: In 80 Prozent der Fälle liegt es richtig. Wir könnten uns gut vorstellen, mit den deutschen Behörden zusammen zu arbeiten, aber wir müssen gleichzeitig auch vorsichtig sein, wie wir als Gesellschaft solche Technologien nutzen. Die EU verfügt über keine rechtsgültige Definition, was genau unter Hate Speech zu verstehen ist.“
Inhalte deutscher Hasskommentare
Der Algorithmus der beiden Linguisten zeigt, dass sich deutsche Hasskommentare häufig gegen Flüchtlinge aus Afrika, Muslime, Juden und einige andere Bevölkerungsgruppen (Polen und Ungarn, gebrochen deutsch Sprechende, Gefährder und Kriminelle, Obdachlose, Gutmenschen, Linksextremisten, Frauen) richten. Typisch sind Ausdrücke der Gewalt und Beschimpfungen im Allgemeinen.
Die beiden Wissenschaftler arbeiten derzeit an der Publikation ihrer Ergebnisse.
Quelle: Stiftung Universität Hildesheim vom 22.02.2018
Termine zum Thema
-
24.04.2024
Fortbildung: Umgang mit grenzüberschreitendem Verhalten im Team
-
29.04.2024
Künstliche Intelligenz in der Bildung
-
23.05.2024
Neue Anforderungen an politische Bildung in der Kinder- und Jugendarbeit. Erkenntnisse und Perspektiven
-
26.05.2024
Deutsch-Japanisches Studienprogramm "Das mediale Umfeld junger Menschen – Herausforderungen und Lösungsansätze"
-
05.06.2024
Fachtagung Jugendmedienarbeit 2024 NRW
Materialien zum Thema
-
Zeitschrift / Periodikum
Außerschulische Bildung Nr. 4/2023: Gender und Diversity
-
Broschüre
Diagnostisches Fallverstehen – Psychosoziale Arbeit mit jungen geflüchteten Menschen
-
Webangebot / -portal
Teste dein Wissen mit dem neuen TikTok-Quiz
-
Anleitung / Arbeitshilfe
Heute schon abgeschaltet? Finde deine digitale Balance
-
Webangebot / -portal
askit App
Projekte zum Thema
-
Cluster Projekte GmbH
Modellprojekt DiKon – Digital in Kontakt sein mit jungen Menschen
-
JFF – Institut für Medienpädagogik in Forschung und Praxis
GenderONline – Geschlechterbilder und Social Media zum Thema machen
-
Hoschule für Soziale Arbeit – Fachhochschule Nordwestschweiz
Hausbesuche im Kindes- und Erwachsenenschutz in der Schweiz
-
Deutsches Jugendinstitut | Gesellschaft für innovative Sozialforschung und Sozialplanung | Internationale Gesellschaft für erzieherische Hilfen | Universität Hildesheim, Institut für Sozial- und Organisationspädagogik
CLS | Soziale Teilhabe im Lebensverlauf junger Erwachsener – Eine Langzeitstudie
-
Philipps-Universität Marburg
Corona-Befragung für Familien
Institutionen zum Thema
-
Hochschule
Hochschule Kempten und KooperationspartnerInnen
-
Träger der freien Kinder- und Jugendhilfe
Landesverband Kinder- und Jugendfilm Berlin e.V.
-
Träger der freien Kinder- und Jugendhilfe
Bildungsteam Berlin-Brandenburg e.V.
-
Sonstige
Informations- und Dokumentationszentrum für Antirassismusarbeit e.V.
-
Außeruniversitäre Forschungs-/Serviceeinrichtung
Grimme Institut - Gesellschaft für Medien, Bildung und Kultur mbH