idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Grafik: idw-Logo

idw - Informationsdienst
Wissenschaft

Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instance:
Share on: 
02/10/2022 12:10

Digitaler Jugendschutz mit künstlicher Intelligenz

Oliver Küch Presse- und Öffentlichkeitsarbeit
Fraunhofer-Institut für Sichere Informationstechnologie SIT

    Durch die Corona-Pandemie hat sich vieles im Sozialleben ins Digitale verlagert; auch Kinder und Jugendliche nutzen noch stärker als vorher digitale Dienste und Kommunikationstools. Gleichzeitig, so warnt die europäische Polizeibehörde Europol, steigt die Gefahr durch Cybergrooming. Eine Machbarkeitsstudie des Fraunhofer-Instituts für Sichere Informationstechnologie SIT im Auftrag des Landes Hessen zeigt, welche Technologien dabei helfen können, Kinder und Heranwachsende vor Übergriffen im Netz und Fehlern beim Umgang mit digitalen Medien zu schützen. Ergebnis: Mithilfe künstlicher Intelligenz und Multimediaforensik können viele Delikte erkannt oder sogar unterbunden werden.

    Laut polizeilicher Kriminalstatistik stieg die Zahl der Delikte im Bereich kinder- und jugendpornografischer Schriften im Pandemiejahr 2020 um mehr als 50 Prozent an. Auch Cybergrooming, das gezielte sexuelle Umgarnen und Manipulieren von Kindern im Internet, hat während der Pandemie enorme Ausmaße angenommen, meldet der unabhängige Beauftragte für Fragen des sexuellen Kindesmissbrauchs (UBSKM).

    Online-Dienste wie Messenger, soziale Medien, Chatforen von Online-Spielen und Ähnliches spielen hier eine besondere Rolle, denn sie ersetzen in der Corona-Krise noch mehr als sonst die analoge Kommunikation für Kinder und Jugendliche. Johannes-Wilhelm Rörig, der unabhängige Beauftragte der Bundesregierung für Fragen des sexuellen Kindesmissbrauchs, forderte deshalb jüngst, dass Kinder gerade jetzt noch besser vor Missbrauch im Netz geschützt werden. Welche Technologien dabei helfen können, untersuchte eine Machbarkeitsstudie des Fraunhofer SIT. Besonderer Schwerpunkt bei der Technologiebeurteilung lag auf der praktischen Umsetzbarkeit.

    KI verhindert Versand von Nacktbildern

    Das Versenden von Nacktfotos über Messenger-Dienste – Sexting genannt – ist auch unter Heranwachsenden verbreitet. Bei Minderjährigen kann das unbedachte Versenden von Nacktbildern zu Problemen führen, wie Mobbing oder Erpressung: einmal verschickt, können Nacktbilder unkontrolliert weitergeleitet werden. Viele Jugendliche wissen auch nicht, dass selbst das Weiterleiten von Nacktbildern Minderjähriger schon strafbar ist. Um unbedachtes Sexting zu verhindern, haben Forschende des Fraunhofer SIT in ihrer Machbarkeitsstudie unterschiedliche technische Verfahren der automatischen Bilderkennung geprüft, die unter anderem auf einem Deep-Learning-Netz basieren.

    Mit dieser Art der künstlichen Intelligenz lässt sich ein Nacktbild mit hoher Genauigkeit erkennen. So lassen sich zum Beispiel auf einem Smartphone Nacktbilder als solche identifizieren. Jugendliche könnten also technisch davon abgehalten werden, Nacktbilder zu erstellen und zu verbreiten. „Das in dieser Studie vorgestellte technische Verfahren zur Erkennung von Nacktbildern basiert auf einem neuronalen Netz. Da dieses lokal auf dem Smartphone ausgeführt wird, schützt es, ohne die Privatsphäre durch die Weiterleitung von Bildern an einen Server zu gefährden“, sagt Studienleiter Prof. Martin Steinebach.

    Schutz vor Online-Anbahnung von sexuellem Missbrauch

    Auch vor Cybergrooming können neue Technologien Kinder und Jugendliche besser schützen. Cybergrooming bezeichnet die Kontaktaufnahme von Erwachsenen zu Minderjährigen in Chatrooms, Foren oder Online-Spielen mit dem Ziel, sexuellen Missbrauch an den Heranwachsenden zu begehen. Dabei geben die Täter ein falsches – jüngeres – Alter an. Über textforensische Profiling-Technologien lässt sich das Alter von Chat-Teilnehmenden einschätzen. Falls das angegebene (junge) Alter nicht mit dem Schreibstil des (eigentlich erwachsenen) Teilnehmenden zusammenpasst, könnte die Moderation des Forums benachrichtigt werden. Auch wenn bereits bekannte auffällig gewordene und geblockte Personen mit einem neuen Profil in Foren unterwegs sind, können textforensische Methoden dies mit einer gewissen Wahrscheinlichkeit erkennen.

    Die ausführlichen Beschreibungen und Ergebnisse der technischen Untersuchungen sowie das Training des neuronalen Netzes haben die Wissenschaftlerinnen und Wissenschaftler des Fraunhofer SIT in der Machbarkeitsstudie beschrieben. Die Studie wurde bereits 2018 im Auftrag des Hessischen Ministeriums des Innern und für Sport fertiggestellt und wird jetzt auch der Öffentlichkeit zur Verfügung gestellt.

    Die Studie ist frei verfügbar unter www.sit.fraunhofer.de/jugendschutz.


    Contact for scientific information:

    Prof. Dr. Martin Steinebach


    Original publication:

    https://www.sit.fraunhofer.de/de/jugendschutz/


    Images

    Das Fraunhofer SIT hat eine Studie veröffentlicht, die technische Möglichkeiten für besseren Schutz von Kindern und Jugendlichen im Netz zeigt.
    Das Fraunhofer SIT hat eine Studie veröffentlicht, die technische Möglichkeiten für besseren Schutz ...

    Fraunhofer SIT

    Digitaler Jugendschutz mit künstlicher Intelligenz
    Digitaler Jugendschutz mit künstlicher Intelligenz

    Fraunhofer SIT


    Criteria of this press release:
    Business and commerce, Journalists, Scientists and scholars
    Economics / business administration, Information technology, Media and communication sciences
    transregional, national
    Research results, Scientific Publications
    German


     

    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).