idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Künstliche Intelligenz erleichtert nicht nur die Erstellung von Bildern, Texten und Videos, sondern auch die gezielte Verbreitung von Falschinformationen.
Das kann digitale Gewalt verstärken und demokratische Meinungsprozesse gefährden. Besonders betroffen sind dabei Frauen und LGBTQI*-Personen. Das zeigt etwa die aktuelle Forschung des Weizenbaum-Instituts.
„KI-generierte Desinformation bedroht zunehmend demokratische Diskurse und die Sicherheit der Betroffenen“, erklärt Martha Stolze, Wissenschaftlerin in der Forschungsgruppe „Plattform-Algorithmen und Digitale Propaganda“ am Weizenbaum-Institut. „Diese Form digitaler Gewalt richtet sich nicht nur verstärkt gegen Frauen, sondern in erheblichem Maße auch gegen LGBTQI*, insbesondere gegen trans Personen.“
Der öffentliche Fokus auf sogenannte Deepfakes greife jedoch zu kurz, so Stolze weiter. Auch textbasierte Falschinformationen, etwa gezielte Gerüchte oder herabsetzende Behauptungen, ließen sich leicht erstellen und verbreiteten sich in sozialen Netzwerken sehr schnell. Sie könnten erheblichen Schaden anrichten und zur Verunsicherung und Ausgrenzung von Betroffenen beitragen.
Eine zentrale Rolle spielen hierbei Plattformen, da ihre Algorithmen die Reichweite emotional aufgeladener oder spaltender Inhalte verstärkten. Forschende sehen deshalb auch die Betreiber sozialer Netzwerke stärker in der Verantwortung, aktiv gegen geschlechtsspezifische und gruppenbezogene digitale Angriffe vorzugehen. Dies muss konsequent über den Digital Services Act (DSA) durchgesetzt werden.
Der DSA befasst sich insbesondere mit der Haftung von Online-Plattformen. Es ist wichtig, dass Nutzende ihre Rechte auch stärker vor Gericht wahrnehmen können. Im geplanten digitalen Gewaltschutzgesetz, dessen Entwurf derzeit im BMJV entworfen wird, sollten alle Formen KI-gestützter Falschinformationen, visuell wie textbasiert, einbezogen werden. Zudem müsse der Schutz von trans Personen und anderen besonders gefährdeten Gruppen systematisch verankert werden.
Aus Sicht von Stolze braucht es einen umfassenden Ansatz, der neben Frauen auch LGBTQI-Personen berücksichtigt, auf Text- und Bild-/Videoformate abstellt und Plattformen stärker in die Pflicht nimmt, um die missbräuchliche Nutzung von KI-Technologien wirksam zu begrenzen. Nur so lasse sich verhindern, dass misogyne und queerphobe digitale Gewalt und Falschinformationen die Grundlagen einer offenen, demokratischen Gesellschaft weiter untergraben.
Martha Stolze, MPhil https://www.weizenbaum-institut.de/portrait/p/martha-stolze-mphil/
Merkmale dieser Pressemitteilung:
Journalisten
Gesellschaft, Informationstechnik, Politik, Recht
überregional
Forschungs- / Wissenstransfer, Forschungsergebnisse
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
