idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Eine Studie der Universität Passau zeigt: Auch Tech-Konzerne können sich nach deutschem Recht strafbar machen, wenn sie Missbrauch dulden.
Ein kurzer, vermeintlich harmloser Befehl reicht, um mit Hilfe von Elon Musks Chatbot Grok öffentliche Fotos in freizügige Aufnahmen zu verwandeln – ohne Zustimmung der Abgebildeten. Seit Wochen fluten Nutzende die Plattform X mit solchen Deepfakes, manche zeigen Minderjährige.
Wer haftet, wenn KI missbraucht wird, um kinderpornografisches Material zu erstellen? Ein Forschungsteam der Universität Passau unter der Leitung des Informatikers Prof. Dr. Steffen Herbold, Inhaber des Lehrstuhls für AI Engineering, ist dieser Frage nachgegangen. „Wir wollten wissen, welche Maßnahmen Entwickler und Betreiber treffen müssen, um das Risiko von Strafverfolgung zu minimieren und verantwortungsvoll zu handeln“, ordnet Prof. Dr. Herbold ein.
Die zentrale Erkenntnis: Haupttäter sind die Nutzenden selbst, wenn sie mit Hilfe von KI solches Bildmaterial erzeugen. Doch auch die KI-Verantwortlichen können herangezogen werden – etwa wenn sie vorsätzlich Beihilfe leisten.
„Wer eine KI öffentlich zugänglich macht, muss sich bewusst sein, dass sie auch missbraucht werden kann“, sagt Hauptautorin Anamaria Mojica Hanke, wissenschaftliche Mitarbeiterin am Lehrstuhl für AI Engineering. „Wenn der Betreiber wissentlich zulässt, dass Nutzende etwa Kinderpornografie erstellen und keine geeigneten Gegenmaßnahmen getroffen werden, kann das strafrechtlich relevant sein.“
Wann haften Entwickler? – Vorsatz ist entscheidend
Der Studie zufolge kommt es vor allem auf den Vorsatz an. Sowohl Nutzende als auch KI-Verantwortliche müssen mit Wissen und Wollen in Bezug auf die illegalen Inhalte und deren Verbreitung handeln. Maßgeblich sind hier die Umstände des Einzelfalls. Besonders riskant wird es, wenn eine KI realistische Nacktbilder generieren kann. „Erlaubt ein KI-Modell explizit die Erstellung freizügiger Inhalte, kann das als Indiz für eine Beihilfe gewertet werden“, sagt Prof. Dr. Brian Valerius, Inhaber des Lehrstuhls für Künstliche Intelligenz im Strafrecht. Ein Extremfall seien spezialisierte Modelle aus dem Darknet, die gezielt auf die Erstellung von Missbrauchsdarstellungen trainiert sind.
„Doch selbst wenn ein Anbieter in den allgemeinen Nutzungsbedingungen die Verwendung für illegale Zwecke verbietet, befreit diese zivilrechtliche Regelung nicht von einer strafrechtlichen Verantwortlichkeit“, ergänzt die Juristin Svenja Wölfel, wissenschaftliche Mitarbeiterin am Lehrstuhl von Prof. Dr. Valerius. „Im Gegenteil: Das Verbot kann sogar zeigen, dass der oder die Entwicklerin das Risiko kannte und damit für den erforderlichen Vorsatz sprechen.“
Auch Auslands-Hosting schützt nicht
Die Forschenden untersuchen in der Studie darüber hinaus, wie der Veröffentlichungskontext der KI die rechtliche Verantwortung beeinflusst. Ob die KI auf deutschen Servern laufe oder nicht, sei nicht entscheidend. Deutsche Behörden könnten auch dann ermitteln, wenn ein Deutscher die KI nutzt oder ein deutscher Entwickler beteiligt war. Selbst rein ausländische Fälle fallen unter deutsches Recht, wenn internationale Straftaten wie Kinderpornografie vorliegen.
Was bedeutet das nun mit Blick auf das Eingangsbeispiel? Für Prof. Dr. Herbold ist es zumindest fraglich, ob im aktuellen Fall von Grok nicht eine Grenze überschritten wurde: „Die Schutzmechanismen müssen effektiv sein und dem Stand der Technik entsprechen. So einfach, wie diese bei Grok derzeit umgangen werden können, ist es fraglich, ob es als Reaktion reicht, den Zugriff auf das Modell nur zahlenden Nutzern zu erlauben.“
Hauptautorin Mojica Hanke bringt die Studie wie folgt auf den Punkt: „Es gibt keinen Garantieschein für Straffreiheit. Wer KI entwickelt, muss klare Schutzmechanismen implementieren – technisch wie rechtlich.“
Neben den Passauer Forschenden war an der Studie auch Thomas Goger beteiligt, Leitender Oberstaatsanwalt bei der Cybercrime Einheit Bayern. Die Arbeit mit dem Titel „Criminal Liability of Generative Artificial Intelligence Providers for User-Generated Child Sexual Abuse Material“ ist vor kurzem als Preprint erschienen – also in einer vorläufigen Fassung, damit die wissenschaftliche Community sie diskutieren kann. Besonders erfreulich für das Team: Die Studie hat bereits ein Prüfverfahren („Peer-Review“) durchlaufen und wurde für die renommierte International Conference on AI Engineering akzeptiert, die im April 2026 in Rio de Janeiro stattfinden wird.
Prof. Dr. Steffen Herbold
Lehrstuhl für AI Engineering
Universität Passau
E-Mail: steffen.herbold@uni-passau.de
Anamaria Mojica-Hanke, Thomas Goger, Svenja Wölfel, Brian Valerius, Steffen Herbold: „Criminal Liability of Generative Artificial Intelligence Providers for User-Generated Child Sexual Abuse Material“ https://arxiv.org/abs/2601.03788
Criteria of this press release:
Business and commerce, Journalists, Scientists and scholars, Students, Teachers and pupils, all interested persons
Information technology, Law
transregional, national
Research results, Scientific Publications
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
