idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Informatikerinnen und Informatiker der Uni Magdeburg erkennen mit Künstlicher Intelligenz manipulierte Bilder und Videos bei Videoidentifizierungsverfahren
Informatikerinnen und Informatiker der Otto-von-Guericke-Universität Magdeburg arbeiten an einer Software, die künftig gefälschte oder manipulierte Fotos und Videos mittels Künstlicher Intelligenz (KI) schneller und sicherer erkennen kann.
Prof. Dr.-Ing. Jana Dittmann, Dr. Christian Krätzer, Stefan Seidlitz und Dennis Siegel vom Institut für Technische und Betriebliche Informationssysteme der Magdeburger Universität suchen dafür nach Detektoren, also Nachweismitteln, die Manipulationen und Fälschungen von Bildern und Videos erkennen. Ziel ist es, eine rechtskonforme und an ethischen Leitlinien orientierte Softwareplattform zu erarbeiten, die es beispielsweise bei Videoidentifizierungsverfahren ermöglicht, Manipulationen, sogenannte Deep Fakes, zu erkennen. Die Folgen dieser Manipulationen an Fotos oder Videos für die Gesellschaft, aber auch Privatpersonen reichen von politischer Einflussnahme über Bankenbetrug und Identitätsdiebstahl bis hin zu organisierter Kriminalität.
„Der Besitz einer erfundenen, überlassenen oder gestohlenen Identität kann für Kriminelle einen großen Nutzen haben. Ein Konto unter einer anderen Identität, einer sogenannten ‚Fake-ID‘ zu eröffnen, von diesem Konto Geld abzuheben, einen Kredit aufzunehmen oder dadurch die Herkunft von Geld zu verschleiern sind nur einige Missbrauchsmöglichkeiten“, erläutert Professorin Dittmann. „Technische Möglichkeiten, bild- und videobasierte Authentifizierungsverfahren ‚auszutricksen‘ gibt es reichlich.“
Die Identität einer Person eindeutig nachzuweisen, werde zunehmend anspruchsvoller, da inzwischen mit einfachen technischen Mitteln hochwertige Fälschungen von Bildern und Videos angefertigt werden könnten, so Dittmann weiter. „Bei hochwertigen, professionell erzeugten ‚Deep Fakes‘ ist es für das bloße Auge fast unmöglich, diese zu erkennen. Um Fälschungen zu entlarven, konzentrieren wir uns auf den Abgleich mit weiteren Kontextprüfungen sowie forensischer und biometrischer Daten primär im Gesicht, also ein Lächeln, ein Fältchen, ein Blinzeln. Da nutzten wir die Schwächen bei der Erzeugung der Fälschung aus.“
Zunächst untersuchen mehrere Detektoren, also automatisierte Verfahrensabläufe der Bilderkennung, Videos und Bilder auf verschiedene Merkmale, die auf „Deep Fakes“ hinweisen könnten. KI-basierte Algorithmen konzentrieren sich dafür auf Informationen wie z.B. Unstimmigkeiten bei der Beleuchtung, der Mimik, in der Bewegung oder auch auf vitale Parameter wie Pulsschlag oder Augenbewegungen. Die auf der Grundlage maschinellen Lernens erlangten Ergebnisse werden zusammengeführt und schließlich möglichst rechtskonform und an ethischen Leitlinien orientiert in einer Softwareplattform in Form einer Risiko- und Verdachtslandkarte visualisiert. Letztendlich beurteilt geschultes menschliches Personal abschließend, ob ein „Deep Fake“, also eine gefälschte Identität vorliegt oder nicht. „Die endgültige Identifikation liegt immer in der Hand menschlicher Experten“, unterstreicht Prof. Dittmann. „Wir möchten ihnen mit der Softwareplattform das nötige Instrumentarium für Entscheidungen an die Hand geben und dazu Indizien für die Manipulationen einer präsentierten Identität transparent machen, visualisieren und leicht nachvollziehbar vermitteln.“
Die Magdeburger Wissenschaftler arbeiten im Forschungsprojekt „Videoanalyse mit Hilfe künstlicher Intelligenz zur Detektion von falschen und manipulierten Identitäten (FAKE-ID)“ für Videoidentifizierungsverfahren mit dem Fraunhofer-Heinrich-Hertz-Institut Berlin, der Bundesdruckerei, der Hochschule für Wirtschaft und Recht Berlin sowie der BioID GmbH zusammen. Das Bundesministerium für Bildung und Forschung fördert das Projekt bis April 2024 mit 2,6 Millionen Euro im Rahmenprojekt „Forschung für die zivile Sicherheit“.
Prof. Dr.-Ing. Jana Dittmann, Otto-von-Guericke-Universität Magdeburg, Institut für Technische und Betriebliche Informationssysteme, Tel.: 0391 67-58966
Merkmale dieser Pressemitteilung:
Journalisten, Wissenschaftler
Informationstechnik
überregional
Forschungsprojekte, Kooperationen
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
