idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Anlässlich der heutigen Sachverständigen-Anhörung im Bundestag begrüßt das Weizenbaum-Institut den Regierungsentwurf für ein Gesetz zur Durchführung der KI-Verordnung. Mehrere zentrale Empfehlungen des Weizenbaum-Instituts zu Partizipation und Grundrechtsschutz wurden aufgegriffen.
Mit dem AI Act hat die EU einen Rahmen für die Regulierung von KI-Systemen geschaffen. Zur Umsetzung dieser Verordnung in Deutschland legte die Bundesregierung einen Gesetzentwurf vor. Expert:innen des Weizenbaum-Instituts erkennen darin wichtige Verbesserungen, sehen aber weiterhin Schwachstellen. Bereits im Oktober 2025 hatte das Weizenbaum-Institut in einer Stellungnahme den Referentenentwurf des Gesetzes bewertet.
Klare Zuständigkeiten, Beteiligung der Zivilgesellschaft und Weiterentwicklung von KI-Reallaboren
Die Forschenden heben positiv hervor, dass die Aufsicht über den KI-Einsatz durch Landesbehörden nun den Ländern selbst zugewiesen werden soll. Im vorherigen Entwurf war die Zuständigkeit bei der Bundesnetzagentur angesiedelt, was verfassungsrechtlich problematisch gewesen wäre.
Ebenfalls begrüßen sie, dass nun eine regelmäßige Einbeziehung von Zivilgesellschaft, Gewerkschaften, Wirtschaft, Wissenschaft und Ländern in die Folgeabschätzung gesetzlich verankert wird. Dies bewerten sie als wichtigen Schritt hin zu einer inklusiven und legitimationsstarken KI-Governance.
Der Zugang zu KI-Reallaboren für Forschungseinrichtungen und Hochschulen würde erleichtert und beschleunigt, unter Einbindung der Datenschutzaufsichtsbehörden. Beide Punkte entsprechen zentralen Forderungen des Weizenbaum-Instituts nach einer stärkeren Verzahnung von Innovation und Grundrechtsschutz, sowie einer besseren Einbindung wissenschaftlicher Akteure. Dabei sollte die Gemeinwohlorientierung der jeweiligen KI-Innovationen jedoch im besonderen Fokus stehen.
Mangelnde Unabhängigkeit der KI-Marktüberwachungskammer und fehlende Sorgfalt bei Hochrisiko-KI-Systemen
Trotz Fortschritten sehen die Forschenden rechtliche und strukturelle Defizite. So sei die KI-Marktüberwachungskammer (UKIM) weiterhin organisatorisch eng in die Bundesnetzagentur eingebunden. Vorsitz und Mitgliederstruktur überlappten sich und es fehle ein eigener Haushaltsplan.
„Eine klare institutionelle Unabhängigkeit ist nicht erkennbar,“ so Prof. Dr. Herbert Zech. „Das könnte den Anforderungen der EU-Verordnung nicht genügen. Wir empfehlen, einige Aufgaben stärker auf die Datenschutzaufsicht zu übertragen, die sowohl die erforderliche Unabhängigkeit als auch die fachliche Expertise bereits gewährleistet.“
Problematisch sei auch die fehlende Genehmigungspflicht für Tests von Hochrisiko-KI, die Grundrechte verletzen könnten. Zudem sind öffentliche Stellen von Geldbußen ausgenommen, was die Aufsicht schwäche. Gerade der Staat sollte laut den Forschenden Vorreiter für verantwortungsvollen KI-Einsatz sein.
Insgesamt stelle der Regierungsentwurf eine Verbesserung im Vergleich zum Referentenentwurf dar. Um jedoch eine effektive, grundrechtskonforme und unionsrechtsfeste KI-Aufsicht zu gewährleisten, seien besonders im Bereich der KI-Marktüberwachungskammer weitere Anpassungen erforderlich.
Stellungnahme des Weizenbaum-Institut zum Referentenentwurf eines Gesetzes zur Durchführung der KI-Verordnung (Oktober 2025): https://doi.org/10.34669/WI.PP/16
Pressekontakt:
Jasmine Ait-Djoudi
Leitung Kommunikation
E-Mail: jasmine.ait-djoudi@weizenbaum-institut.de
Tel.: +49 (0)30 700 141 010
Mobil: +49 (0)160 998 268 11
Charlotte Mysegades, charlotte.mysegades@weizenbaum-institut.de
https://doi.org/10.34669/WI.PP/16
Merkmale dieser Pressemitteilung:
Journalisten, jedermann
Gesellschaft, Informationstechnik, Politik, Recht, Wirtschaft
überregional
Forschungs- / Wissenstransfer, Wissenschaftliche Publikationen
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
