idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Grafik: idw-Logo

idw - Informationsdienst
Wissenschaft

Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instanz:
Teilen: 
24.03.2022 12:06

Europäisches Regelungskonzept für vertrauenswürdige KI in der öffentlichen Verwaltung

Rimma Gerenstein Hochschul- und Wissenschaftskommunikation
Albert-Ludwigs-Universität Freiburg im Breisgau

    • Freiburger Forschende wirkten am KI-Modellgesetz des European Law Institute mit, das am 13. April 2022 in einem Webinar präsentiert wird.
    • Behörden setzen KI beispielsweise ein, um Geldwäsche und Steuerbetrug zu bekämpfen oder öffentliche Dienstleistungen im Bereich der Energie- und Gesundheitsversorgung zu verbessern.
    • „Das ELI-Modellgesetz schlägt vor, KI der öffentlichen Verwaltung auf eine Weise zu regulieren, die Innovationen nicht behindert, aber zugleich solide Garantien bietet, um das Vertrauen der Bürger*innen in die Nutzung der Technologie in diesem Bereich zu stärken.“

    Die europäische und globale Rechtsgemeinschaft diskutiert derzeit intensiv, wie die Entwicklung und der Einsatz Künstlicher Intelligenz (KI) angemessen reguliert werden kann. Ziel soll sein, deren Potentiale optimal zu nutzen und zugleich unerwünschte Risiken für Grundrechte und das Gemeinwohl zu vermeiden. Wissenschaftler*innen des European Law Institute (ELI) haben nun ein Modellgesetz entwickelt, das für algorithmische und insbesondere KI-basierte Entscheidungsfindungssysteme, die von der öffentlichen Verwaltung eingesetzt werden, eine umfassende und risikoangepasste Folgenabschätzung vorsieht. Behörden setzen KI beispielsweise ein, um Geldwäsche und Steuerbetrug zu bekämpfen oder öffentliche Dienstleistungen im Bereich der Energie- und Gesundheitsversorgung zu verbessern. Das ELI-Modellgesetz ergänzt für den spezifischen Kontext behördlicher KI-Systeme die derzeit in den EU-Gesetzgebungsgremien debattierten allgemeineren Rechtsvorschriften über die Vermarktung von KI-Technologien im EU-Binnenmarkt. „Das ELI-Modellgesetz ist vom EU-Recht inspiriert und mit dem bestehenden EU-Recht vereinbar, wurde aber so konzipiert, dass es nicht vom EU-Recht abhängig ist, könnte also auch von Staaten außerhalb der EU als Vorlage genutzt werden“, erklärt Prof. Dr. Jens-Peter Schneider vom Institut für Medien- und Informationsrecht der Universität Freiburg.

    Leitfaden soll Vertrauen in KI-Technologie stärken

    Schneider war einer der drei vom ELI berufenen Berichterstatter, die ein internationales Projektteam leiteten, dem mit Jonathan Dollinger auch ein Freiburger Nachwuchswissenschaftler angehörte. Das ELI vereinigt über 1600 Fellows aus Rechtswissenschaft und Rechtspraxis sowie ca. 110 institutionelle Mitglieder aus ganz Europa und versteht sich als rechtspolitischer Thinktank. „Das ELI-Modellgesetz schlägt vor, KI der öffentlichen Verwaltung auf eine Weise zu regulieren, die Innovationen nicht behindert, aber zugleich solide Garantien bietet, um das Vertrauen der Bürger*innen in die Nutzung der Technologie in diesem Bereich zu stärken“, erklärt der Freiburger Rechtswissenschaftler.

    Unterscheidung der Systeme statt Einheitslösung

    Technologien wie KI können eine wichtige Rolle spielen, um die öffentliche Verwaltung zu modernisieren und ihre Funktionsweisen zu verbessern. KI-Anwendungen sind abhängig von Daten, weshalb deren Transparenz, Korrektheit und Verlässlichkeit gesichert sein muss. „Vertrauenswürdige KI in der öffentlichen Verwaltung verlangt ein hohes Maß an Zuverlässigkeit der verwendeten Technologien sowie den Schutz der Bürger*innen vor Diskriminierungen und anderen Grundrechtsverletzungen“, schildert Schneider die durch die algorithmische Entscheidungsfindung aufgeworfenen Probleme.

    Die zentrale Idee, die dem ELI-Modellgesetz zugrunde liegt, ist eine Folgenabschätzung. Da die Vielfalt der Situationen, in denen die algorithmische Entscheidungsfindung zum Einsatz kommt, eine Einheitslösung ausschließt, wird in den Modellregeln unterschieden zwischen Systemen mit hohem Risiko, die eine Folgenabschätzung erfordern, Systemen mit geringem Risiko, bei denen dies nicht der Fall ist, und Systemen, die nicht ohne Prüfung des konkreten Anwendungskontextes eingestuft werden können. Aus diesem Stufensystem entwickelten die Forschenden für das ELI 16 Artikel, die das Folgenabschätzungsverfahren ausgestalten und zusätzliche Schutzmaßnahmen für Systeme mit hohem Risiko vorsehen. „Für Hochrisikosysteme ist zum Beispiel – anders als in den derzeit auf EU-Ebene diskutierten Regelungsvorschlägen – die Überprüfung der behördlichen Folgenabschätzung durch unabhängige Sachverständige sowie eine Öffentlichkeitsbeteiligung vorgesehen“, sagt Schneider. Außerdem reagiert das Modellgesetz auf die besonders dynamischen Risiken maschinellen Lernens durch anlassgebundene sowie periodisch wiederholte Folgenabschätzungen.

    Webinar zum ELI-Modelgesetz am 13. April 2022

    Weitere Informationen über das Projekt und den vollständigen Bericht in englischer Sprache finden sich hier. Das ELI veranstaltet zudem ein öffentliches und kostenloses Webinar: Dieses findet unter Beteiligung der beiden Freiburger Rechtswissenschaftler am 13. April 2022 von 12:00-13:30 Uhr statt. Die Anmeldung ist hier möglich.


    Wissenschaftliche Ansprechpartner:

    Prof. Dr. Jens-Peter Schneider
    Institut für Medien- und Informationsrecht
    Albert-Ludwigs-Universität Freiburg
    Tel.: 0761/203-97730
    jp.schneider@jura.uni-freiburg.de


    Weitere Informationen:

    https://kommunikation.uni-freiburg.de/pm/2022/europaeisches-regelungskonzept-fue...


    Bilder

    Merkmale dieser Pressemitteilung:
    Journalisten
    Recht
    überregional
    Forschungs- / Wissenstransfer
    Deutsch


     

    Hilfe

    Die Suche / Erweiterte Suche im idw-Archiv
    Verknüpfungen

    Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.

    Klammern

    Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).

    Wortgruppen

    Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.

    Auswahlkriterien

    Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).

    Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).