idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Grafik: idw-Logo

idw - Informationsdienst
Wissenschaft

Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instanz:
Teilen: 
31.05.2019 10:24

Saarbrücker Sprachtechnologen untersuchen Hasskommentare im Internet

Thorsten Mohr Pressestelle der Universität des Saarlandes
Universität des Saarlandes

    Hassrede – oder „Hate Speech“ – im Internet ist ein großes Problem. Zum einen vergiftet sie das gesellschaftliche Klima. Und aus technischer Sicht haben auch die Betreiber von Plattformen Mühe, die Flut der Hasskommentare einzudämmen. Hassrede kann je nach Kontext ohne Schlüsselwörter wie zum Beispiel Beleidigungen auskommen, so dass sie von den Suchalgorithmen oft übersehen wird. Diesem Problem wollen Saarbrücker Sprachtechnologen nun auf den Grund gehen. Sie untersuchen Hate Speech gemeinsam mit Kollegen aus Mainz, Metz und Nancy anhand von Kommentaren, die während der aktuellen Migrationsbewegungen in Europa entstehen.

    „Sie sieht aus wie die Besetzung des Films ‚Der Planet der Affen‘.“ Der Satz kann als Kompliment für ein aufstrebendes Starlet gemeint sein, der man eine große Rolle in einem Hollywood-Blockbuster zutraut. Wird er im Zusammenhang mit einem Foto von Michelle Obama gesagt, ist es eine rassistische Beleidigung, die die Merkmale von Hate Speech erfüllt. Dunkelhäutige Menschen werden von Rassisten oft verunglimpft, indem sie sie mit Affen vergleichen. Der Moderator Rodner Figueroa des amerikanischen TV-Senders „Univision“ ist wegen ebendieser Aussage, die er auf Spanisch von sich gab, gefeuert worden.

    „Der Kommentar enthält auf der linguistischen Ebene keinerlei Hassrede. Erst im Kontext mit dem Bild von Frau Obama wird klar, dass der Kommentar hier eine Beleidigung im Sinne von Hate Speech darstellt“, erklärt Thomas Kleinbauer, Sprachtechnologe am Lehrstuhl für Sprach- und Signalverarbeitung von Professor Dietrich Klakow.

    Dies mache es für bisherige Algorithmen so schwierig, solche kontextabhängigen Kommentare als Hasskommentare zu identifizieren, insbesondere in Sozialen Netzwerken, wo solche Kommentare in großer Zahl vorkommen. „Bisher funktionieren Algorithmen für die Erkennung von Hate Speech vor allem linguistisch, das heißt, sie suchen und erkennen bestimmte Schlüsselwörter“, erläutert Dietrich Klakow. Die Programme suchen in den Kommentaren also nach Beleidigungen, Schimpfwörtern und ähnlichem. Kontextabhängige Hate Speech ohne solche Schlüsselwörter ist, wie das Beispiel mit Michelle Obama zeigt, von solchen Rechenvorschriften deutlich schwieriger herauszufiltern. Im Zweifel bleibt ein solcher Kommentar bisher unerkannt im Internet stehen, wenn er nicht von menschlicher Hand gefunden und gelöscht wird.

    „Genau an dieser Stelle kommt uns auch die Zusammenarbeit mit Geistes- und Sozialwissenschaftlern zugute“, erklärt Dietrich Klakow. Denn die sozialwissenschaftlichen Aspekte der Hate Speech seien sehr gut erforscht, sagt der Sprachtechnologe. In den Sozialwissenschaften gebe es zum Beispiel im Gegensatz zur Linguistik sehr genaue und differenzierte Abgrenzungen des Begriffes „Hate“ zu anderen, verwandten Spielarten wie Ärger oder Angst. Mit solchen Grundlagen können auch die Sprachtechnologen sehr viel feiner ihre technischen Methoden zur Erkennung von Hate Speech entwickeln.

    Der Projektname „M-PHASIS“ („Migration and Patterns of Hate Speech in Social Media – A Cross-Cultural Perspective“) deutet bereits auf einen weiteren wichtigen Aspekt hin, den die Forscher im Blick haben: Wie „funktioniert“ Hate Speech dies- und jenseits der deutsch-französischen Grenze, insbesondere vor dem Hintergrund großer Migrationsbewegungen wie in der jüngsten Vergangenheit? Folgt die Hassrede anderen sprachlichen Regeln? Welche Themen reizen Internet-Nutzer zu Hasskommentaren im Internet? Sind das in Deutschland andere als in Frankreich? Und wie breiten sich Themen, die Hasskommentare auf sich ziehen, in Deutschland und Frankreich aus (oder auch nicht)?

    Am Ende des Saarbrücker Teilprojektes soll es eine „Proof-of-concept“-Software geben, die – im „Labormaßstab“ – solche diffizilen Hasskommentare wie den eingangs erwähnten identifizieren kann. Da das Projekt allerdings hauptsächlich sozialwissenschaftlicher Natur ist, werden die Ergebnisse vorrangig auf diesem Feld zu finden sein. Dafür werden dann die Partner in Mainz und Metz verantwortlich zeichnen.

    Projektdetails:
    „M-PHASIS“ („Migration and Patterns of Hate Speech in Social Media – A Cross-Cultural Perspective“) wird seit 1. März 2019 gemeinsam von der Deutschen Forschungsgemeinschaft und dem französischen Pendant, der Agence Nationale de la Recherche (ANR), gefördert. Während der dreijährigen Laufzeit fließen insgesamt ca. 540.000 Euro an die vier Projektpartner (Centre de Recherche sur les Médiation (CREM) an der Université de
    Lorraine, Metz; Institut für Publizistik der Johannes Gutenberg-Universität Mainz; Laboratoire Lorrain de Recherche en Informatique et ses Applications der Université de Lorraine, Nancy; Lehrstuhl für Sprach- und Signalverarbeitung der Universität des
    Saarlandes), knapp 200.000 davon an die Universität des Saarlandes.


    Wissenschaftliche Ansprechpartner:

    Prof. Dr. Dietrich Klakow
    Tel.: (0681) 30258122
    E-Mail: Dietrich.Klakow@lsv.uni-saarland.de

    Dr. Thomas Kleinbauer
    Tel.: (0681) 30258130
    E-Mail: thomas.kleinbauer@lsv.uni-saarland.de


    Bilder

    Professor Dietrich Klakow
    Professor Dietrich Klakow
    Foto: Iris Maurer
    None

    Thomas Kleinbauer
    Thomas Kleinbauer
    Foto: Thorsten Mohr
    None


    Merkmale dieser Pressemitteilung:
    Journalisten
    Gesellschaft, Informationstechnik, Sprache / Literatur
    regional
    Forschungsprojekte, Kooperationen
    Deutsch


     

    Hilfe

    Die Suche / Erweiterte Suche im idw-Archiv
    Verknüpfungen

    Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.

    Klammern

    Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).

    Wortgruppen

    Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.

    Auswahlkriterien

    Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).

    Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).