idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
KI-basierte Tools erzeugen heute aus realen Aufnahmen von Menschen täuschend echte Bilder, Videos und Audios – oft mit gravierenden Folgen, besonders für Schülerinnen und Schüler oder junge Erwachsene. Expertinnen für Technikfolgenabschätzung des Karlsruher Instituts für Technologie (KIT) erforschen im Projekt DEEP-PRISMA, wie Betroffene mit missbräuchlichen Fakes umgehen und entwickeln gemeinsam mit ihnen Strategien gegen Deepfake-Missbrauch. Das vom Bundesministerium für Forschung, Technologie und Raumfahrt geförderte Projekt stellt auch die geltende Rechtslage auf den Prüfstand.
Die Zahl online geteilter Deepfakes wächst rasant. KI-gestützte Tools erzeugen inzwischen Medieninhalte, die selbst Expertinnen und Experten kaum noch von echten Videos oder Audios unterscheiden können. Häufig dienen solche Fakes betrügerischen Zwecken – etwa, um an Passwörter, Kontodaten oder Firmengeheimnisse zu gelangen. „Der überwiegende Teil besteht jedoch aus sexualisierenden oder pornografischen Inhalten. Studien gehen davon aus, dass rund 98 Prozent aller Deepfakes pornografisch sind – und 99 Prozent davon weibliche Personen zeigen“, sagt Dr. Jutta Jahnel vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) des KIT, die sich seit vielen Jahren mit den Folgen digitaler Bildmanipulation beschäftigt. Genaue Zahlen seien aber aufgrund der hohen Dunkelziffer und der rasanten technologischen Entwicklung schwierig zu ermitteln.
Soziale Medien als Multiplikator für Deepfakes
„Soziale Medien sind aufgrund ihrer großen Reichweite und der oft geringen Moderationshürden besonders anfällig für die Verbreitung solcher Inhalte – mit teils schwerwiegenden Konsequenzen für diejenigen, deren Bildmaterial zu Unrecht verwendet wird“, erklärt Jahnel. Sie leitet das im Februar 2026 gestartete Projekt „Privatheit und weitere Rechte der Bürgerinnen und Bürger schützen vor Missbrauch durch Deepfakes“, kurz DEEP-PRISMA.
Das Forschungsvorhaben stellt junge Menschen in den Mittelpunkt, die von solchen missbräuchlichen und Persönlichkeitsrechte verletzenden Fakes betroffen sind. „Bislang ist kaum bekannt, wie Betroffene konkret mit Deepfake-Missbrauch umgehen – ob sie rechtliche Schritte einleiten, psychologische Unterstützung suchen oder ihr Online-Verhalten verändern“, so Jahnel.
Belastbare Daten als Basis für konkrete Hilfestellungen
Ziel der Forschenden ist es, mithilfe breit angelegter Umfragen unter Schülerinnen und Schülern sowie jungen Erwachsenen eine belastbare Datenbasis zum Umgang Betroffener mit Deepfakes zu schaffen. Darauf aufbauend laden die Projektbeteiligten Vertreterinnen und Vertreter dieser besonders betroffenen Gruppen zu moderierten Diskussionen ein.
Gemeinsam entwickeln sie dann ein praxisnahes Maßnahmenpaket, das zielgruppengerechte Handlungsempfehlungen sowie Informationen zu Initiativen und Anlaufstellen bereitstellt – beispielsweise für den Einsatz an Schulen oder in der Jugendarbeit. „Ein solches ‚Action-Kit‘ könnte etwa einer Schülerin helfen, die mit einem sexualisierten Deepfake konfrontiert ist: Es zeigt erste Schritte zur Beweissicherung, verweist auf Beratungsstellen und erklärt die rechtlichen Möglichkeiten“, sagt ITAS-Wissenschaftlerin Dr. Dana Mahr aus dem Projektteam.
Juristische Regeln auf dem Prüfstand
Gemeinsam mit den Projektpartnern bewertet DEEP-PRISMA auch bestehende juristische Regelungen und deren Durchsetzung, wie beispielsweise den Digital Services Act oder die KI-Verordnung der Europäischen Union. „Es gibt zwar eine ganze Reihe verschiedener Regularien zur Erstellung und Verbreitung von Deepfakes. Für eine strafrechtliche Ahndung von Missbrauch sind diese in der Praxis jedoch oft zu allgemein formuliert und nicht ausreichend”, erklärt Jahnel. Erschwerend komme hinzu, dass Täterinnen und Täter im digitalen Raum häufig anonym bleiben und viele missbräuchliche Nutzungen gar nicht erst gemeldet werden. Ziel von DEEP-PRISMA ist es daher, Empfehlungen zu erarbeiten, um bestehende Regelungen weiterzuentwickeln.
Das Bundesministerium für Forschung, Technologie und Raumfahrt fördert das Projekt für drei Jahre. Projektpartner sind das Fraunhofer-Institut für System- und Innovationsforschung (ISI), das Internationale Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen und das Fachgebiet Öffentliches Recht, IT-Recht und Umweltrecht der Universität Kassel.
Deepfake-Studie für den Deutschen Bundestag
Einen kompakten Überblick über Deepfake-Technologien, ihre gesellschaftlichen Auswirkungen und rechtliche Herausforderungen bietet das vom ITAS betriebene Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB). Der im Dezember 2025 im Bundestag vorgestellte und jetzt erschienene Bericht beschreibt Handlungsansätze für Politik, Wirtschaft und Zivilgesellschaft. (jmo)
Im Dialog mit der Gesellschaft entwickelt das KIT Lösungen für große Herausforderungen – von Klimawandel, Energiewende und nachhaltigem Umgang mit natürlichen Ressourcen bis hin zu Künstlicher Intelligenz, technologischer Souveränität und demografischem Wandel. Als Die Universität in der Helmholtz-Gemeinschaft vereint das KIT wissenschaftliche Exzellenz vom Erkenntnisgewinn bis zur Anwendungsorientierung unter einem Dach – und ist damit in einer einzigartigen Position, diese Transformation voranzutreiben. Damit bietet das KIT als Exzellenzuniversität seinen mehr als 10 000 Mitarbeitenden sowie seinen 22 800 Studierenden herausragende Möglichkeiten, eine nachhaltige und resiliente Zukunft zu gestalten. KIT – Science for Impact.
Jonas Moosmüller, Presse- und Öffentlichkeitsarbeit am ITAS, Tel.: +49 721 608-26796, E-Mail: jonas.moosmueller@kit.edu
https://www.itas.kit.edu/projekte_jahn26_deepprisma.php Projektwebseite DEEP-PRISMA
https://www.tab-beim-bundestag.de/projekte_rechtliche-und-gesellschaftliche-hera... Zum Bericht des TAB
Merkmale dieser Pressemitteilung:
Journalisten
Gesellschaft, Informationstechnik
überregional
Forschungsprojekte
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
