idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
• Freiburger Forschende wirkten am KI-Modellgesetz des European Law Institute mit, das am 13. April 2022 in einem Webinar präsentiert wird.
• Behörden setzen KI beispielsweise ein, um Geldwäsche und Steuerbetrug zu bekämpfen oder öffentliche Dienstleistungen im Bereich der Energie- und Gesundheitsversorgung zu verbessern.
• „Das ELI-Modellgesetz schlägt vor, KI der öffentlichen Verwaltung auf eine Weise zu regulieren, die Innovationen nicht behindert, aber zugleich solide Garantien bietet, um das Vertrauen der Bürger*innen in die Nutzung der Technologie in diesem Bereich zu stärken.“
Die europäische und globale Rechtsgemeinschaft diskutiert derzeit intensiv, wie die Entwicklung und der Einsatz Künstlicher Intelligenz (KI) angemessen reguliert werden kann. Ziel soll sein, deren Potentiale optimal zu nutzen und zugleich unerwünschte Risiken für Grundrechte und das Gemeinwohl zu vermeiden. Wissenschaftler*innen des European Law Institute (ELI) haben nun ein Modellgesetz entwickelt, das für algorithmische und insbesondere KI-basierte Entscheidungsfindungssysteme, die von der öffentlichen Verwaltung eingesetzt werden, eine umfassende und risikoangepasste Folgenabschätzung vorsieht. Behörden setzen KI beispielsweise ein, um Geldwäsche und Steuerbetrug zu bekämpfen oder öffentliche Dienstleistungen im Bereich der Energie- und Gesundheitsversorgung zu verbessern. Das ELI-Modellgesetz ergänzt für den spezifischen Kontext behördlicher KI-Systeme die derzeit in den EU-Gesetzgebungsgremien debattierten allgemeineren Rechtsvorschriften über die Vermarktung von KI-Technologien im EU-Binnenmarkt. „Das ELI-Modellgesetz ist vom EU-Recht inspiriert und mit dem bestehenden EU-Recht vereinbar, wurde aber so konzipiert, dass es nicht vom EU-Recht abhängig ist, könnte also auch von Staaten außerhalb der EU als Vorlage genutzt werden“, erklärt Prof. Dr. Jens-Peter Schneider vom Institut für Medien- und Informationsrecht der Universität Freiburg.
Leitfaden soll Vertrauen in KI-Technologie stärken
Schneider war einer der drei vom ELI berufenen Berichterstatter, die ein internationales Projektteam leiteten, dem mit Jonathan Dollinger auch ein Freiburger Nachwuchswissenschaftler angehörte. Das ELI vereinigt über 1600 Fellows aus Rechtswissenschaft und Rechtspraxis sowie ca. 110 institutionelle Mitglieder aus ganz Europa und versteht sich als rechtspolitischer Thinktank. „Das ELI-Modellgesetz schlägt vor, KI der öffentlichen Verwaltung auf eine Weise zu regulieren, die Innovationen nicht behindert, aber zugleich solide Garantien bietet, um das Vertrauen der Bürger*innen in die Nutzung der Technologie in diesem Bereich zu stärken“, erklärt der Freiburger Rechtswissenschaftler.
Unterscheidung der Systeme statt Einheitslösung
Technologien wie KI können eine wichtige Rolle spielen, um die öffentliche Verwaltung zu modernisieren und ihre Funktionsweisen zu verbessern. KI-Anwendungen sind abhängig von Daten, weshalb deren Transparenz, Korrektheit und Verlässlichkeit gesichert sein muss. „Vertrauenswürdige KI in der öffentlichen Verwaltung verlangt ein hohes Maß an Zuverlässigkeit der verwendeten Technologien sowie den Schutz der Bürger*innen vor Diskriminierungen und anderen Grundrechtsverletzungen“, schildert Schneider die durch die algorithmische Entscheidungsfindung aufgeworfenen Probleme.
Die zentrale Idee, die dem ELI-Modellgesetz zugrunde liegt, ist eine Folgenabschätzung. Da die Vielfalt der Situationen, in denen die algorithmische Entscheidungsfindung zum Einsatz kommt, eine Einheitslösung ausschließt, wird in den Modellregeln unterschieden zwischen Systemen mit hohem Risiko, die eine Folgenabschätzung erfordern, Systemen mit geringem Risiko, bei denen dies nicht der Fall ist, und Systemen, die nicht ohne Prüfung des konkreten Anwendungskontextes eingestuft werden können. Aus diesem Stufensystem entwickelten die Forschenden für das ELI 16 Artikel, die das Folgenabschätzungsverfahren ausgestalten und zusätzliche Schutzmaßnahmen für Systeme mit hohem Risiko vorsehen. „Für Hochrisikosysteme ist zum Beispiel – anders als in den derzeit auf EU-Ebene diskutierten Regelungsvorschlägen – die Überprüfung der behördlichen Folgenabschätzung durch unabhängige Sachverständige sowie eine Öffentlichkeitsbeteiligung vorgesehen“, sagt Schneider. Außerdem reagiert das Modellgesetz auf die besonders dynamischen Risiken maschinellen Lernens durch anlassgebundene sowie periodisch wiederholte Folgenabschätzungen.
Webinar zum ELI-Modelgesetz am 13. April 2022
Weitere Informationen über das Projekt und den vollständigen Bericht in englischer Sprache finden sich hier. Das ELI veranstaltet zudem ein öffentliches und kostenloses Webinar: Dieses findet unter Beteiligung der beiden Freiburger Rechtswissenschaftler am 13. April 2022 von 12:00-13:30 Uhr statt. Die Anmeldung ist hier möglich.
Prof. Dr. Jens-Peter Schneider
Institut für Medien- und Informationsrecht
Albert-Ludwigs-Universität Freiburg
Tel.: 0761/203-97730
jp.schneider@jura.uni-freiburg.de
https://kommunikation.uni-freiburg.de/pm/2022/europaeisches-regelungskonzept-fue...
Criteria of this press release:
Journalists
Law
transregional, national
Transfer of Science or Research
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
