idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Darmstadt, 22. Juni 2022. Doktoranden des „Artificial Intelligence and Machine Learning Lab“ am Fachbereich Informatik der TU Darmstadt haben erhebliche Schwachstellen und Manipulationsmöglichkeiten beim Client-Side-Scanning und Deep Perceptual Hashing identifiziert. Das Verfahren rückte in den Fokus, als Apple 2021 mit „NeuralHash“ einen neuen Ansatz zur Detektion von Bildmaterial im Bereich des Kindesmissbrauchs vorstellte, nach massiver Kritik die Einführung aber zurückzog. Die Forschungsergebnisse der TU-Wissenschaftler belegen nun die Gefahren von Client-Side-Scanning-Methoden für Nutzende.
Es sollte eine Möglichkeit sein, kinderpornografisches Bildmaterial aufzuspüren: Im Sommer vergangenen Jahres hatte der US-amerikanische Technologiekonzern Apple mit „NeuralHash“ einen neuen Weg zur Erkennung von Bildmaterial im Bereich des Kindesmissbrauchs präsentiert. Im Unterschied zu traditionelleren Methoden, welche üblicherweise auf der Serverseite nach hochgeladenem Content mit illegalem Material suchen, wollte Apple einen so genannten Client-Side-Scanning-Ansatz nutzen. Bei diesem werden die Dateien direkt auf den Nutzergeräten analysiert, bevor sie verschlüsselt und in die Cloud hochgeladen werden. So soll die Sicherheit und Privatsphäre der Nutzer geschützt bleiben, da die Ende-zu-Ende-Verschlüsselung nicht gebrochen werden muss.
An dem vorgestellten Ansatz gab es viel öffentliche Kritik. Ohne notwendigen Anfangsverdacht würden Dateien auf allen Nutzergeräten gleichermaßen gescannt, und zudem sei nicht sichergestellt, dass nicht in Zukunft auch nach anderen Inhalten abseits von Kinderpornographie gesucht werde, lauteten die Vorwürfe. „Wir haben uns daraufhin in unserer Forschung NeuralHash als eine reale Anwendung solcher Client-Side-Scanning-Algorithmen genauer angeschaut“, berichten Dominik Hintersdorf und Lukas Struppek, wissenschaftliche Mitarbeiter in der Gruppe von Professor Kristian Kersting am Fachbereich Informatik der TU Darmstadt. Die beiden Doktoranden beschäftigen sich mit Fragen zur Sicherheit und Privatsphäre von Algorithmen des Maschinellen Lernens und dem Einsatz von Künstlicher Intelligenz.
Zusammen mit Daniel Neider vom Max-Planck-Institut, jetzt Professor für Sicherheit und Erklärbarkeit lernender Systeme an der Carl von Ossietzky Universität Oldenburg, konnten Hintersdorf und Struppek diverse grundlegende Schwachstellen identifizieren. Dabei entwickelten und untersuchten sie vier verschiedene Arten von Angriffen auf das System und konnten belegen, dass aktuelle Deep-Perceptual-Hashing-Systeme wie Apples „NeuralHash“ sehr anfällig gegenüber Attacken sind. „Diese ermöglichen es nicht nur, die Detektion des Systems mit leichten Bildänderungen zu überlisten, sondern auch die Manipulation von normalen Bildern, die anschließend vom System fälschlicherweise als kinderpornographisches Material erkannt werden“, so die TU-Forscher.
Diese Erkenntnis zeigt ihrer Ansicht nach die große Gefahr von Client-Side-Scanning auf: Unschuldige Nutzende könnten mit solchen Angriffen vom System geflaggt, identifiziert und im Zweifel sogar verfolgt werden, während das ursprüngliche Ziel der Detektion von illegalem Material nur unzuverlässig erreicht werde. „Der Einsatz solcher Technologien eröffnet die Möglichkeit für Angriffe auf unschuldige Nutzer“, bemängeln Dominik Hintersdorf und Lukas Struppek.
Die Forschungsarbeit der TU-Doktoranden findet Gehör. In Form eines Short Papers wurde ihre Arbeit auf dem diesjährigen Workshop on Technology and Consumer Protection@IEEE Symposium on Security and Privacy präsentiert und dort mit dem Best Paper Award prämiert. Zudem wird die Arbeit in diesen Tagen bei der Konferenz für Fairness, Accountability and Transparency (FAccT, https://facctconference.org/2022/) vorgestellt.
Die publizierte Arbeit findet sich online unter https://dl.acm.org/doi/10.1145/3531146.3533073.
Aktuell plant die Europäische Union einen ähnlichen Ansatz zu verfolgen im Kampf gegen die Verbreitung von Kinderpornographie und diskutiert über die Umsetzung von Chat-Kontrollen auf Endgeräten. Vergleichbare Pläne werden aktuell auch im Vereinigten Königreich erwogen. „Damit erhalten die Ergebnisse unserer Forschung zusätzliche Tragweite und können einen wichtigen Beitrag zur aktuellen öffentlichen Diskussion im Bereich Client-Side-Scanning und Deep Perceptual Hashing liefern“, sind Hintersdorf und Struppek überzeugt. Sie stehen bereits im Austausch mit Vertretern der Gesellschaft für Freiheitsrechte e.V. sowie Ofcom (UK's telecommunications regulator), um dort ihre Forschungsergebnisse zu diskutieren.
Über die TU Darmstadt
Die TU Darmstadt zählt zu den führenden Technischen Universitäten in Deutschland und steht für exzellente und relevante Wissenschaft. Globale Transformationen – von der Energiewende über Industrie 4.0 bis zur Künstlichen Intelligenz – gestaltet die TU Darmstadt durch herausragende Erkenntnisse und zukunftsweisende Studienangebote entscheidend mit.
Ihre Spitzenforschung bündelt die TU Darmstadt in drei Feldern: Energy and Environment, Information and Intelligence, Matter and Materials. Ihre problemzentrierte Interdisziplinarität und der produktive Austausch mit Gesellschaft, Wirtschaft und Politik erzeugen Fortschritte für eine weltweit nachhaltige Entwicklung.
Seit ihrer Gründung 1877 zählt die TU Darmstadt zu den am stärksten international geprägten Universitäten in Deutschland; als Europäische Technische Universität baut sie in der Allianz Unite! einen transeuropäischen Campus auf. Mit ihren Partnern der Rhein-Main-Universitäten – der Goethe-Universität Frankfurt und der Johannes Gutenberg-Universität Mainz – entwickelt sie die Metropolregion Frankfurt-Rhein-Main als global attraktiven Wissenschaftsraum weiter.
www.tu-darmstadt.de
MI-Nr. 38/2022, Astrid Ludwig/sip
Lukas Struppek, M. Sc.
E-Mail: lukas.struppek@cs.tu-darmstadt.de
Dominik Hintersdorf
E-Mail: dominik.hintersdorf@cs.tu-darmstadt.de
https://dl.acm.org/doi/10.1145/3531146.3533073
Merkmale dieser Pressemitteilung:
Journalisten
Informationstechnik
überregional
Forschungsergebnisse, Forschungsprojekte
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
