idw - Informationsdienst
Wissenschaft
Durch die Corona-Pandemie hat sich vieles im Sozialleben ins Digitale verlagert; auch Kinder und Jugendliche nutzen noch stärker als vorher digitale Dienste und Kommunikationstools. Gleichzeitig, so warnt die europäische Polizeibehörde Europol, steigt die Gefahr durch Cybergrooming. Eine Machbarkeitsstudie des Fraunhofer-Instituts für Sichere Informationstechnologie SIT im Auftrag des Landes Hessen zeigt, welche Technologien dabei helfen können, Kinder und Heranwachsende vor Übergriffen im Netz und Fehlern beim Umgang mit digitalen Medien zu schützen. Ergebnis: Mithilfe künstlicher Intelligenz und Multimediaforensik können viele Delikte erkannt oder sogar unterbunden werden.
Laut polizeilicher Kriminalstatistik stieg die Zahl der Delikte im Bereich kinder- und jugendpornografischer Schriften im Pandemiejahr 2020 um mehr als 50 Prozent an. Auch Cybergrooming, das gezielte sexuelle Umgarnen und Manipulieren von Kindern im Internet, hat während der Pandemie enorme Ausmaße angenommen, meldet der unabhängige Beauftragte für Fragen des sexuellen Kindesmissbrauchs (UBSKM).
Online-Dienste wie Messenger, soziale Medien, Chatforen von Online-Spielen und Ähnliches spielen hier eine besondere Rolle, denn sie ersetzen in der Corona-Krise noch mehr als sonst die analoge Kommunikation für Kinder und Jugendliche. Johannes-Wilhelm Rörig, der unabhängige Beauftragte der Bundesregierung für Fragen des sexuellen Kindesmissbrauchs, forderte deshalb jüngst, dass Kinder gerade jetzt noch besser vor Missbrauch im Netz geschützt werden. Welche Technologien dabei helfen können, untersuchte eine Machbarkeitsstudie des Fraunhofer SIT. Besonderer Schwerpunkt bei der Technologiebeurteilung lag auf der praktischen Umsetzbarkeit.
KI verhindert Versand von Nacktbildern
Das Versenden von Nacktfotos über Messenger-Dienste – Sexting genannt – ist auch unter Heranwachsenden verbreitet. Bei Minderjährigen kann das unbedachte Versenden von Nacktbildern zu Problemen führen, wie Mobbing oder Erpressung: einmal verschickt, können Nacktbilder unkontrolliert weitergeleitet werden. Viele Jugendliche wissen auch nicht, dass selbst das Weiterleiten von Nacktbildern Minderjähriger schon strafbar ist. Um unbedachtes Sexting zu verhindern, haben Forschende des Fraunhofer SIT in ihrer Machbarkeitsstudie unterschiedliche technische Verfahren der automatischen Bilderkennung geprüft, die unter anderem auf einem Deep-Learning-Netz basieren.
Mit dieser Art der künstlichen Intelligenz lässt sich ein Nacktbild mit hoher Genauigkeit erkennen. So lassen sich zum Beispiel auf einem Smartphone Nacktbilder als solche identifizieren. Jugendliche könnten also technisch davon abgehalten werden, Nacktbilder zu erstellen und zu verbreiten. „Das in dieser Studie vorgestellte technische Verfahren zur Erkennung von Nacktbildern basiert auf einem neuronalen Netz. Da dieses lokal auf dem Smartphone ausgeführt wird, schützt es, ohne die Privatsphäre durch die Weiterleitung von Bildern an einen Server zu gefährden“, sagt Studienleiter Prof. Martin Steinebach.
Schutz vor Online-Anbahnung von sexuellem Missbrauch
Auch vor Cybergrooming können neue Technologien Kinder und Jugendliche besser schützen. Cybergrooming bezeichnet die Kontaktaufnahme von Erwachsenen zu Minderjährigen in Chatrooms, Foren oder Online-Spielen mit dem Ziel, sexuellen Missbrauch an den Heranwachsenden zu begehen. Dabei geben die Täter ein falsches – jüngeres – Alter an. Über textforensische Profiling-Technologien lässt sich das Alter von Chat-Teilnehmenden einschätzen. Falls das angegebene (junge) Alter nicht mit dem Schreibstil des (eigentlich erwachsenen) Teilnehmenden zusammenpasst, könnte die Moderation des Forums benachrichtigt werden. Auch wenn bereits bekannte auffällig gewordene und geblockte Personen mit einem neuen Profil in Foren unterwegs sind, können textforensische Methoden dies mit einer gewissen Wahrscheinlichkeit erkennen.
Die ausführlichen Beschreibungen und Ergebnisse der technischen Untersuchungen sowie das Training des neuronalen Netzes haben die Wissenschaftlerinnen und Wissenschaftler des Fraunhofer SIT in der Machbarkeitsstudie beschrieben. Die Studie wurde bereits 2018 im Auftrag des Hessischen Ministeriums des Innern und für Sport fertiggestellt und wird jetzt auch der Öffentlichkeit zur Verfügung gestellt.
Die Studie ist frei verfügbar unter www.sit.fraunhofer.de/jugendschutz.
Prof. Dr. Martin Steinebach
https://www.sit.fraunhofer.de/de/jugendschutz/
Das Fraunhofer SIT hat eine Studie veröffentlicht, die technische Möglichkeiten für besseren Schutz ...
Fraunhofer SIT
Digitaler Jugendschutz mit künstlicher Intelligenz
Fraunhofer SIT
Merkmale dieser Pressemitteilung:
Journalisten, Wirtschaftsvertreter, Wissenschaftler
Informationstechnik, Medien- und Kommunikationswissenschaften, Wirtschaft
überregional
Forschungsergebnisse, Wissenschaftliche Publikationen
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).