idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
KI, Biometrie und Data Mining: Weizenbaum-Institut kritisiert einzelne Gesetzesregelungen der Berliner ASOG-Novelle als verfassungsrechtlich und unionsrechtlich bedenklich
Mit der im Dezember 2025 verabschiedeten Novelle des Allgemeinen Sicherheits- und Ordnungsgesetzes (ASOG Bln) hat das Land Berlin das Polizeirecht tiefgreifend reformiert. Eine aktuelle Stellungnahme des Weizenbaum-Instituts warnt nun vor erheblichen Defiziten. Der Einsatz moderner Digitaltechnologien sei aus Sicht des Weizenbaum-Instituts in seiner aktuellen Form kaum mit dem Grundgesetz und geltendem EU-Recht vereinbar.
Die Novelle stellt die umfassendste Reform seit der Bekanntmachung des ASOG im Jahr 1975 dar. Sie ermöglicht der Berliner Polizei den Einsatz von Systemen der Künstlichen Intelligenz (KI), Plattformen zur Datenanalyse sowie eine massive Ausweitung von Videoüberwachung und Bodycams. Vor diesem Hintergrund analysiert die Stellungnahme des Weizenbaum-Instituts die Neuregelungen aus rechtlicher und sozialwissenschaftlicher Perspektive. Die Autor:innen sehen zentrale Anforderungen an Verhältnismäßigkeit, Normenklarheit und Transparenz nicht hinreichend berücksichtigt. Aus Sicht des Weizenbaum-Instituts bleibt die ASOG-Novelle deshalb hinter verfassungsrechtlichen und unionsrechtlichen Anforderungen zurück.
Grundrechte unter Druck: Expert:innen fordern Einsatzstopp
„An vielen Stellen reichen die Schutzmaßnahmen nicht aus, um die Grundrechte der Berliner:innen angemessen zu wahren“, erklärt Dietmar Kammerer, Mitautor der Studie. „Wir empfehlen, den Einsatz solch eingriffsintensiver Technologien vorerst zu stoppen und durch Maßnahmen zu ersetzen, deren kriminalpräventive Wirksamkeit gut belegt ist und die Mittel mit geringerer Eingriffsintensität darstellen. Neue und unerprobte Technologien sollten höchstens punktuell zum Einsatz kommen und müssen durch unabhängige Forschung begleitet und evaluiert werden.“
Die Stellungnahme betont, dass der Einsatz von neuer Technik im Sicherheitsbereich niemals alternativlos ist, sondern in der Regel neue Abhängigkeiten, Kosten und Risiken erzeugt. Insbesondere KI-Systeme, etwa bei der Verhaltenserkennung oder Datenanalyse, seien in der Praxis bislang kaum erprobt; ihre Fehleranfälligkeit und das Risiko von Diskriminierung seien hoch. Aus Sicht des Weizenbaum-Instituts brauche es daher regelmäßige Audits unter Einbeziehung der Betroffenenperspektive, und die Fortführung entsprechender Befugnisse sollte an eine unabhängige wissenschaftliche Evaluation geknüpft werden.
Zentrale Kritikpunkte
Die Expert:innen sehen die Nutzung polizeilicher Datenbestände zum Training und zur Testung von KI-Systemen als verfassungsrechtlich und, insbesondere vor dem Hintergrund der KI-VO, auch als unionsrechtlich bedenklich an. Besonders gravierend sei zum einen die Gefahr, dass bestehende diskriminierende Strukturen in die eingesetzten Systeme übertragen werden. Zum anderen kritisieren sie, dass die Verarbeitung von Daten (unbeteiligter) Dritten gesetzlich nicht ausgeschlossen ist.
Zudem sehen die Autor:innen die Verwendung selbstlernender KI-Systeme in der polizeilichen Praxis als kritisch an, weil sie unvorhersehbar, intransparent und rechtlich nicht ausreichend kontrollierbar sind, sodass ihr Einsatz die Einhaltung zentraler rechtsstaatlicher Anforderungen, speziell der Normenklarheit, der Nachvollziehbarkeit staatlichen Handelns und der effektiven Verantwortungszurechnung, gefährden kann.
Auch bei der vorgesehenen Möglichkeit, biometrische Gesichts- und Stimmmerkmale mit öffentlich zugänglichen Internetdaten abzugleichen (sog. „Data Scraping“), äußern die Autor:innen erhebliche Bedenken. Diese laufe faktisch auf den Aufbau umfassender biometrischer Referenzbestände hinaus, da ein Abgleich ohne vorgelagerte Datenextraktion technisch kaum realisierbar sei. Unabhängig von der Frage des Datenbankaufbaus bleibe aber auch der einzelne Abgleich hoch eingriffsintensiv. Wegen der strukturell unbegrenzten Streubreite und der Möglichkeit, Rückschlüsse auf sensible Lebensbereiche zu ziehen sowie der bekannten Fehler- und Diskriminierungsrisiken biometrischer Systeme entstehe ein gravierendes Gefährdungspotenzial für Grundrechte und gesellschaftliche Teilhabe. Dies habe starke „Chilling-Effekte“ zur Folge, die Verhaltensanpassungen begünstigten und das allgemeine Persönlichkeitsrecht sowie die Meinungs- und Versammlungsfreiheit beeinträchtigten.
Bei der Ausweitung der Videoüberwachung fehle es laut Studie teilweise an einer belastbaren empirischen Grundlage. Beim Einsatz von Bodycams seien zusätzliche Schutzmaßnahmen erforderlich. Zudem zeigten Studien, dass konventionelle Videoüberwachung Kriminalität kaum wirksam reduziere.
Blick auf künftige Reformen
Die Stellungnahme liefert eine evidenzbasierte Einordnung der ASOG-Regelungen – insbesondere im Hinblick auf Eingriffsschwellen, Zweckbindung sowie Transparenz- und Kontrollmechanismen. Auch die rechtlichen und praktischen Folgen des Einsatzes automatisierter Systeme in der Gefahrenabwehr werden beleuchtet. Die gewonnenen Erkenntnisse können als Orientierung dienen und auch für künftige Reformen auf Landes- und Bundesebene wegweisend sein.
Zur Stellungnahme: https://www.weizenbaum-library.de/items/650377f2-baa9-431c-b62e-8a7be5366dfc
https://www.weizenbaum-library.de/items/650377f2-baa9-431c-b62e-8a7be5366dfc
Merkmale dieser Pressemitteilung:
Journalisten
Gesellschaft, Politik, Recht
überregional
Forschungsergebnisse
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
