idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Dr. Vera Schmitt arbeitet an der größten deutschsprachigen KI-Plattform zur Desinformationserkennung. Im Interview gibt sie Antworten zu aktuellen Herausforderungen.
Desinformationskampagnen, die den gesellschaftlichen Zusammenhalt bedrohen, nehmen weltweit rasant zu. Doch wie kann die Gesellschaft auf diese Herausforderung reagieren? Dr. Vera Schmitt und ihre Forschungsgruppe XplaiNLP am Quality and Usability Lab der TU Berlin haben darauf eine klare Antwort: Künstliche Intelligenz (KI). Mit innovativen Projekten wie VeraXtract und news-polygraph arbeiten sie an der größten deutschsprachigen KI-Plattform zur Desinformationserkennung. Um die Gruppe aufzubauen, hat Dr. Schmitt über 4 Millionen Euro Drittmittel eingeworben.
„Unser Ziel ist es, die gesellschaftliche Widerstandsfähigkeit gegenüber Desinformation zu stärken“, erklärt Dr. Schmitt im ausführlichen Interview https://www.tu.berlin/go279457/. Die promovierte Computerwissenschaftlerin entwickelt mit ihrer Forschungsgruppe Systeme zur intelligenten Entscheidungsunterstützung, um Desinformationsnarrative aufzudecken, Fakten transparent zu machen und langfristig den Zusammenhalt in der Gesellschaft zu fördern.
Kampf gegen Desinformationsnarrative
Das neuste Projekt VeraXtract, zielt auf die Analyse und Erkennung komplexer Desinformationsnarrative ab. „Wir wollen nicht nur einzelne Falschmeldungen identifizieren, sondern zugrundeliegende Narrative entschlüsseln – von Verschwörungstheorien bis hin zu politisch gesteuerten Kampagnen “, sagt Dr. Schmitt. Mit einem KI-gestützten „Narrative Monitoring Tool“ sollen Journalist*innen und die Öffentlichkeit künftig besser verstehen können, wie solche Narrative funktionieren und sich verbreiten. Das Tool liefert nachvollziehbare Erklärungen für seine Entscheidungen, um die Transparenz und Vertrauenswürdigkeit der Ergebnisse zu gewährleisten.
Das zweite große Projekt, news-polygraph, richtet sich speziell an Journalist*innen. Ziel ist die Entwicklung einer multimodalen Plattform, die Desinformationen in Texten, Bildern, Audio- und Videoinhalten analysiert. „Die erste Demoversion planen wir im April – dann können Journalist*innen sie testen“, kündigt Dr. Schmitt an. Doch die Herausforderungen sind groß: „Faktenchecks erfolgen eigentlich immer zu spät. Desinformationen bleiben selbst nach ihrer Widerlegung im Bewusstsein“, betont die Wissenschaftlerin. Ihre Vision: KI-Tools, die Desinformationen in Echtzeit erkennen und präventiv im ganzen Internet eingreifen.
KI als Brücke zwischen Menschen
Dr. Schmitt ist überzeugt, dass KI nicht nur Risiken birgt, sondern auch helfen kann, Brücken zwischen Menschen zu bauen: „Algorithmen könnten so umgestaltet werden, dass sie nicht nur unsere bisherigen Likes und Präferenzen verstärken, sondern auch gezielt Inhalte präsentieren, die eine größere Vielfalt an Meinungen, Kulturen oder Sichtweisen abbilden. Das könnte helfen, die bekannten Filterblasen zu durchbrechen und uns ein ausgewogeneres Bild der Welt zu zeigen.“
Erfahren Sie im Interview https://www.tu.berlin/go279457/ mehr darüber, wie KI den Zusammenhalt in der Gesellschaft unterstützen kann und wie junge Menschen vor Desinformationen geschützt werden können.
Über die Forschungsgruppe XplaiNLP:
Dr. Vera Schmitt leitet die Forschungsgruppe XplaiNLP an der TU Berlin. Mit über vier Millionen Euro an Drittmitteln und 24 Teammitgliedern zählt die Forschungsgruppe XplaiNLP zu den führenden Gruppen im Bereich der Desinformationserkennung und erklärbarer KI in Deutschland.
Kontakt:
Dr. Vera Schmitt
TU Berlin
Leiterin XplaiNLP Group
Quality and Usability Lab
E-Mail: vera.schmitt@tu-berlin.de
Dr. Vera Schmitt
Vera Schmitt
Merkmale dieser Pressemitteilung:
Journalisten
Informationstechnik
überregional
Forschungsprojekte
Deutsch
Dr. Vera Schmitt
Vera Schmitt
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
