idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Anlässlich der heutigen Sachverständigen-Anhörung im Bundestag begrüßt das Weizenbaum-Institut den Regierungsentwurf für ein Gesetz zur Durchführung der KI-Verordnung. Mehrere zentrale Empfehlungen des Weizenbaum-Instituts zu Partizipation und Grundrechtsschutz wurden aufgegriffen.
Mit dem AI Act hat die EU einen Rahmen für die Regulierung von KI-Systemen geschaffen. Zur Umsetzung dieser Verordnung in Deutschland legte die Bundesregierung einen Gesetzentwurf vor. Expert:innen des Weizenbaum-Instituts erkennen darin wichtige Verbesserungen, sehen aber weiterhin Schwachstellen. Bereits im Oktober 2025 hatte das Weizenbaum-Institut in einer Stellungnahme den Referentenentwurf des Gesetzes bewertet.
Klare Zuständigkeiten, Beteiligung der Zivilgesellschaft und Weiterentwicklung von KI-Reallaboren
Die Forschenden heben positiv hervor, dass die Aufsicht über den KI-Einsatz durch Landesbehörden nun den Ländern selbst zugewiesen werden soll. Im vorherigen Entwurf war die Zuständigkeit bei der Bundesnetzagentur angesiedelt, was verfassungsrechtlich problematisch gewesen wäre.
Ebenfalls begrüßen sie, dass nun eine regelmäßige Einbeziehung von Zivilgesellschaft, Gewerkschaften, Wirtschaft, Wissenschaft und Ländern in die Folgeabschätzung gesetzlich verankert wird. Dies bewerten sie als wichtigen Schritt hin zu einer inklusiven und legitimationsstarken KI-Governance.
Der Zugang zu KI-Reallaboren für Forschungseinrichtungen und Hochschulen würde erleichtert und beschleunigt, unter Einbindung der Datenschutzaufsichtsbehörden. Beide Punkte entsprechen zentralen Forderungen des Weizenbaum-Instituts nach einer stärkeren Verzahnung von Innovation und Grundrechtsschutz, sowie einer besseren Einbindung wissenschaftlicher Akteure. Dabei sollte die Gemeinwohlorientierung der jeweiligen KI-Innovationen jedoch im besonderen Fokus stehen.
Mangelnde Unabhängigkeit der KI-Marktüberwachungskammer und fehlende Sorgfalt bei Hochrisiko-KI-Systemen
Trotz Fortschritten sehen die Forschenden rechtliche und strukturelle Defizite. So sei die KI-Marktüberwachungskammer (UKIM) weiterhin organisatorisch eng in die Bundesnetzagentur eingebunden. Vorsitz und Mitgliederstruktur überlappten sich und es fehle ein eigener Haushaltsplan.
„Eine klare institutionelle Unabhängigkeit ist nicht erkennbar,“ so Prof. Dr. Herbert Zech. „Das könnte den Anforderungen der EU-Verordnung nicht genügen. Wir empfehlen, einige Aufgaben stärker auf die Datenschutzaufsicht zu übertragen, die sowohl die erforderliche Unabhängigkeit als auch die fachliche Expertise bereits gewährleistet.“
Problematisch sei auch die fehlende Genehmigungspflicht für Tests von Hochrisiko-KI, die Grundrechte verletzen könnten. Zudem sind öffentliche Stellen von Geldbußen ausgenommen, was die Aufsicht schwäche. Gerade der Staat sollte laut den Forschenden Vorreiter für verantwortungsvollen KI-Einsatz sein.
Insgesamt stelle der Regierungsentwurf eine Verbesserung im Vergleich zum Referentenentwurf dar. Um jedoch eine effektive, grundrechtskonforme und unionsrechtsfeste KI-Aufsicht zu gewährleisten, seien besonders im Bereich der KI-Marktüberwachungskammer weitere Anpassungen erforderlich.
Stellungnahme des Weizenbaum-Institut zum Referentenentwurf eines Gesetzes zur Durchführung der KI-Verordnung (Oktober 2025): https://doi.org/10.34669/WI.PP/16
Pressekontakt:
Jasmine Ait-Djoudi
Leitung Kommunikation
E-Mail: jasmine.ait-djoudi@weizenbaum-institut.de
Tel.: +49 (0)30 700 141 010
Mobil: +49 (0)160 998 268 11
Charlotte Mysegades, charlotte.mysegades@weizenbaum-institut.de
https://doi.org/10.34669/WI.PP/16
Criteria of this press release:
Journalists, all interested persons
Economics / business administration, Information technology, Law, Politics, Social studies
transregional, national
Scientific Publications, Transfer of Science or Research
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
