idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Hassrede – oder „Hate Speech“ – im Internet ist ein großes Problem. Zum einen vergiftet sie das gesellschaftliche Klima. Und aus technischer Sicht haben auch die Betreiber von Plattformen Mühe, die Flut der Hasskommentare einzudämmen. Hassrede kann je nach Kontext ohne Schlüsselwörter wie zum Beispiel Beleidigungen auskommen, so dass sie von den Suchalgorithmen oft übersehen wird. Diesem Problem wollen Saarbrücker Sprachtechnologen nun auf den Grund gehen. Sie untersuchen Hate Speech gemeinsam mit Kollegen aus Mainz, Metz und Nancy anhand von Kommentaren, die während der aktuellen Migrationsbewegungen in Europa entstehen.
„Sie sieht aus wie die Besetzung des Films ‚Der Planet der Affen‘.“ Der Satz kann als Kompliment für ein aufstrebendes Starlet gemeint sein, der man eine große Rolle in einem Hollywood-Blockbuster zutraut. Wird er im Zusammenhang mit einem Foto von Michelle Obama gesagt, ist es eine rassistische Beleidigung, die die Merkmale von Hate Speech erfüllt. Dunkelhäutige Menschen werden von Rassisten oft verunglimpft, indem sie sie mit Affen vergleichen. Der Moderator Rodner Figueroa des amerikanischen TV-Senders „Univision“ ist wegen ebendieser Aussage, die er auf Spanisch von sich gab, gefeuert worden.
„Der Kommentar enthält auf der linguistischen Ebene keinerlei Hassrede. Erst im Kontext mit dem Bild von Frau Obama wird klar, dass der Kommentar hier eine Beleidigung im Sinne von Hate Speech darstellt“, erklärt Thomas Kleinbauer, Sprachtechnologe am Lehrstuhl für Sprach- und Signalverarbeitung von Professor Dietrich Klakow.
Dies mache es für bisherige Algorithmen so schwierig, solche kontextabhängigen Kommentare als Hasskommentare zu identifizieren, insbesondere in Sozialen Netzwerken, wo solche Kommentare in großer Zahl vorkommen. „Bisher funktionieren Algorithmen für die Erkennung von Hate Speech vor allem linguistisch, das heißt, sie suchen und erkennen bestimmte Schlüsselwörter“, erläutert Dietrich Klakow. Die Programme suchen in den Kommentaren also nach Beleidigungen, Schimpfwörtern und ähnlichem. Kontextabhängige Hate Speech ohne solche Schlüsselwörter ist, wie das Beispiel mit Michelle Obama zeigt, von solchen Rechenvorschriften deutlich schwieriger herauszufiltern. Im Zweifel bleibt ein solcher Kommentar bisher unerkannt im Internet stehen, wenn er nicht von menschlicher Hand gefunden und gelöscht wird.
„Genau an dieser Stelle kommt uns auch die Zusammenarbeit mit Geistes- und Sozialwissenschaftlern zugute“, erklärt Dietrich Klakow. Denn die sozialwissenschaftlichen Aspekte der Hate Speech seien sehr gut erforscht, sagt der Sprachtechnologe. In den Sozialwissenschaften gebe es zum Beispiel im Gegensatz zur Linguistik sehr genaue und differenzierte Abgrenzungen des Begriffes „Hate“ zu anderen, verwandten Spielarten wie Ärger oder Angst. Mit solchen Grundlagen können auch die Sprachtechnologen sehr viel feiner ihre technischen Methoden zur Erkennung von Hate Speech entwickeln.
Der Projektname „M-PHASIS“ („Migration and Patterns of Hate Speech in Social Media – A Cross-Cultural Perspective“) deutet bereits auf einen weiteren wichtigen Aspekt hin, den die Forscher im Blick haben: Wie „funktioniert“ Hate Speech dies- und jenseits der deutsch-französischen Grenze, insbesondere vor dem Hintergrund großer Migrationsbewegungen wie in der jüngsten Vergangenheit? Folgt die Hassrede anderen sprachlichen Regeln? Welche Themen reizen Internet-Nutzer zu Hasskommentaren im Internet? Sind das in Deutschland andere als in Frankreich? Und wie breiten sich Themen, die Hasskommentare auf sich ziehen, in Deutschland und Frankreich aus (oder auch nicht)?
Am Ende des Saarbrücker Teilprojektes soll es eine „Proof-of-concept“-Software geben, die – im „Labormaßstab“ – solche diffizilen Hasskommentare wie den eingangs erwähnten identifizieren kann. Da das Projekt allerdings hauptsächlich sozialwissenschaftlicher Natur ist, werden die Ergebnisse vorrangig auf diesem Feld zu finden sein. Dafür werden dann die Partner in Mainz und Metz verantwortlich zeichnen.
Projektdetails:
„M-PHASIS“ („Migration and Patterns of Hate Speech in Social Media – A Cross-Cultural Perspective“) wird seit 1. März 2019 gemeinsam von der Deutschen Forschungsgemeinschaft und dem französischen Pendant, der Agence Nationale de la Recherche (ANR), gefördert. Während der dreijährigen Laufzeit fließen insgesamt ca. 540.000 Euro an die vier Projektpartner (Centre de Recherche sur les Médiation (CREM) an der Université de
Lorraine, Metz; Institut für Publizistik der Johannes Gutenberg-Universität Mainz; Laboratoire Lorrain de Recherche en Informatique et ses Applications der Université de Lorraine, Nancy; Lehrstuhl für Sprach- und Signalverarbeitung der Universität des
Saarlandes), knapp 200.000 davon an die Universität des Saarlandes.
Prof. Dr. Dietrich Klakow
Tel.: (0681) 30258122
E-Mail: Dietrich.Klakow@lsv.uni-saarland.de
Dr. Thomas Kleinbauer
Tel.: (0681) 30258130
E-Mail: thomas.kleinbauer@lsv.uni-saarland.de
Professor Dietrich Klakow
Foto: Iris Maurer
None
Thomas Kleinbauer
Foto: Thorsten Mohr
None
Criteria of this press release:
Journalists
Information technology, Language / literature, Social studies
regional
Cooperation agreements, Research projects
German
Professor Dietrich Klakow
Foto: Iris Maurer
None
Thomas Kleinbauer
Foto: Thorsten Mohr
None
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
