idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Forschende der Universitäten Passau und Bamberg untersuchen in einem vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) der Bayerischen Akademie der Wissenschaften geförderten Projekt, wie Russland unter strenger Aufsicht eigene generative KI-Modelle entwickelt und wie sich autoritäre Daten auf KI-Systeme in demokratischen Systemen auswirken.
Der Papst in Gucci-Jacke, Taylor Swift als vermeintliche Trump-Unterstützerin, ein Fake-Video von Friedrich Merz: Systeme der generativen künstlichen Intelligenz können inzwischen täuschend echte Inhalte produzieren. Sie dürften damit die Art und Weise grundlegend verändern, wie Informationen in modernen Gesellschaften zirkulieren. Autoritäre Regime haben die Macht von KI-generierten Bildern und Inhalten längst erkannt.
Ein interdisziplinäres Team von Forschenden der Universitäten Passau und Bamberg untersucht in einem neuen Projekt, wie Russland und andere Autokratien die Entwicklung von Large Language Models (LLMs), großen generativen Sprachmodellen, regulieren und kontrollieren. Das Bayerische Forschungsinstitut für Digitale Transformation (bidt) der Bayerischen Akademie der Wissenschaften fördert das Projekt AI-PROP zu autoritärer KI und Propaganda mit 930 000 Euro über eine Laufzeit von drei Jahren. Es startet zum 1. April 2025.
„In Autokratien wie China und Russland wird generative KI heute vielfach unter der Schirmherrschaft staatlich kontrollierter Unternehmen entwickelt“, sagt Projektleiter Prof. Dr. Florian Töpfl, Inhaber des Lehrstuhls für Politische Kommunikation mit Schwerpunkt Osteuropa an der Universität Passau. „Durch solche Maßnahmen der Regulierung und Zensur stellen autokratische Regierungen sicher, dass die Ausgaben der KI-Modelle mit den politischen Narrativen und Ideologien der herrschenden Eliten übereinstimmen.“ Darüber hinaus zensierten Autokraten zunehmend den Zugang zu den in Demokratien entwickelten Sprachmodellen. So haben beispielsweise China und Russland die Nutzung von ChatGPT, dem Chatbot des US-amerikanischen Softwareunternehmens OpenAI, verboten.
Beteiligt an dem Projekt ist neben Prof. Dr. Töpfl auch der Informatiker Prof. Dr. Florian Lemmerich von der Universität Passau und der Politologe Prof. Dr. Andreas Jungherr von der Universität Bamberg. Vor dem Hintergrund der aktuellen Entwicklungen befassen sich die Forschenden in dem bidt-Projekt mit zwei übergreifenden Fragen:
• Wie und mit welchen Folgen sind autoritäre KI-Systeme in die heutige russische Gesellschaft eingebettet?
• Welche Folgen hat es, dass „autoritäre Daten“, also Daten, die durch autoritäre Einflussnahme und Zensur manipuliert wurden, zunehmend in westliche KI-Systeme eingespeist werden?
Das Team untersucht im Rahmen von vier miteinander verbundenen Arbeitspaketen, wie auf Sprachmodellen basierende Systeme in Russland im Vergleich zu westlichen Demokratien reguliert werden und wie sich die von diesen Systemen generierten Inhalte in demokratischen und autoritären Staaten unterscheiden. Darüber hinaus ergründen die Forschenden die Folgen des Aufstiegs von generativer KI auf den öffentlichen Diskurs in demokratischen und autoritären Gesellschaften.
„Letztendlich zielen wir mit dem Projekt ‚Autoritäre KI‘ darauf ab, die Widerstandskraft von Demokratien gegen autoritäre Einflussnahme mittels künstlicher Intelligenz zu stärken und transparent zu machen, wie autoritäre Eliten KI-Systeme manipulieren“, erklärt Prof. Dr. Töpfl. Das Projekt enthält auch einen Bereich Öffentlichkeitsarbeit und Wissenstransfer, in dem ein Leitfaden entwickelt werden soll, um Kompetenz gegen Propaganda aufzubauen.
Über das Forschungsteam
Projektleiter Prof. Dr. Florian Töpfl ist Inhaber des Lehrstuhls für Politische Kommunikation mit Schwerpunkt auf Osteuropa und die postsowjetische Region an der Universität Passau. Er leitet das ERC-Consolidator-Projekt RUSINFORM zu den Auswirkungen der Digitalisierung auf Russlands informationellen Einfluss im Ausland. Töpfl erforscht unter anderem die politische Kommunikation von antidemokratischen Gegenöffentlichkeiten in westlichen Demokratien.
Prof. Dr. Florian Lemmerich ist Inhaber der Professur für Angewandtes Maschinelles Lernen an der Universität Passau. Er erforscht unter anderem die Entwicklung von Methoden des Maschinellen Lernens sowie die Qualität von großen Sprachmodellen.
Prof. Dr. Andreas Jungherr ist Inhaber des Lehrstuhls für Politikwissenschaft, insbesondere Digitale Transformation, an der Universität Bamberg. Er untersucht unter anderem die Nutzung digitaler Medien durch Bevölkerung, politische Eliten, Medien und Organisationen.
Prof. Dr. Florian Töpfl
Lehrstuhl für Politische Kommunikation mit Schwerpunkt auf Osteuropa und die postsowjetische Region
Universität Passau
Mail: Florian.Toepfl@uni-passau.de
https://www.digital.uni-passau.de/beitraege/2025/interview-zu-rusinform Interview mit Prof. Dr. Florian Töpfl im Forschungsmagazin der Universität Passau
Prof. Dr. Florian Töpfl, Inhaber des Lehrstuhls für Politische Kommunikation mit Schwerpunkt auf Ost ...
Universität Passau
Universität Passau
Criteria of this press release:
Business and commerce, Journalists, Scientists and scholars, Students, Teachers and pupils, all interested persons
Information technology, Media and communication sciences, Politics
transregional, national
Cooperation agreements, Research projects
German
Prof. Dr. Florian Töpfl, Inhaber des Lehrstuhls für Politische Kommunikation mit Schwerpunkt auf Ost ...
Universität Passau
Universität Passau
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
