idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Fokus auf Risikominimierung könnte Vorteile für die Allgemeinheit bremsen
In einem aktuell im Fachmagazin Nature Medicine erschienenen Kommentar äußern sich Politikwissenschafterin Barbara Prainsack und Rechtswissenschafter Nikolaus Forgó von der Universität Wien differenziert zur KI-Verordnung der EU, die demnächst in Kraft treten soll: Zu wenig Beachtung des potenziellen Nutzens für die Gesellschaft, so lautet verkürzt das Fazit der beiden Expert*innen. Verbessert werden könnte die Verordnung durch eine umfassendere Bewertung der Vorteile der KI-Technologie, mehr öffentliche Investitionen und bessere demokratische Kontrolle.
Noch nicht in Kraft, aber bereits seit dem Erstentwurf im Jahr 2021 heiß diskutiert: die neue KI-Verordnung der Europäischen Union. Sie verfolgt einen risikobasierten Ansatz zur Regulierung von KI-Anwendungen – je höher das Risiko, desto strenger die Regulierung – und genau dieser steht nun im Zentrum der Diskussion. Die Leiter*innen der Forschungsplattform "Governance of Digital Practices" an der Universität Wien, Barbara Prainsack und Nikolas Forgó, analysieren die Grundzüge der KI-Verordnung in ihrem aktuellen Kommentar durchaus kritisch und fordern, Schwächen der Verordnung im Rahmen ihrer Auslegung durch einen "datensolidarischen" Ansatz zu kompensieren. "Datensolidarität" bedeutet dabei die systematischen Bewertung sowohl der Risiken als auch des Nutzens der KI-Technologie.
Eine differenzierte Betrachtung
So fällt ihre Beurteilung der Verordnung daher auch differenziert aus. Während sie einerseits im risikobasierten Ansatz Vorteile sehen, stellen Prainsack und Forgó Fragen an die Durchführbarkeit und Sinnhaftigkeit einer Risikoeinschätzung im Vorhinein.
Zudem kritisieren die Autor*innen, dass die Verordnung nur Risiken im Blick hat – und nicht auch den Wert evaluiert, den unterschiedliche Technologieanwendung für die Öffentlichkeit schaffen können. Sie äußern die Befürchtung, dass durch diesen rein risikoorientierten Ansatz Kontrollziele nicht erreicht werden und ökonomisch schwächere Marktteilnehmer negativ betroffen sein könnten. Wirtschaftlich mächtige Großkonzerne könnten nämlich auch dadurch noch weitere Vorteile erhalten, dass sie finanzkräftig genug seien, sich gegen eine hohe Risikoklassifizierung ihrer Technologien zu wehren – während kleinere Unternehmen und Organisationen diese Möglichkeit regelmäßig nicht hätten.
Mit Datensolidarität zum Ziel
Barbara Prainsack vom Institut für Politikwissenschaft erkärt: "Ein rein risikobasierter Regulierungsansatz ist zu kurz gegriffen. Besser wäre es, eine datensolidarische Perspektive einzubeziehen." Damit würde auch berücksichtigt, welche positiven Effekte ein bestimmtes KI-System für die Allgemeinheit haben könnte – was auch in die Bewertung miteinfließen und damit gemeinnützige Technologie-Anwendungen privilegieren würde. Kollege Nikolaus Forgó vom Institut für Innovation und Digitalisierung im Recht ergänzt: "Ein datensolidarischer Ansatz führt zu besserer Regulierung und stärkt gleichzeitig die europäische Wettbewerbsfähigkeit und das Gemeinwohl." Eine datensolidarische Ausrichtung ist bei der Auslegung der Verordnung und bei ihrer Flankierung durch öffentliche Investitionen zur Förderung öffentlicher digitaler Infrastrukturen daher dringend geboten.
Lesen Sie mehr zum Thema KI in unserem Dossier zur Semesterfrage "Wissen wir, was KI wissen wird?" im Wissenschaftsmagazin Rudolphina: https://rudolphina.univie.ac.at/ki-wissen?mtm_campaign=ki-wissen&mtm_kwd=sta...
Univ.-Prof. Mag. Dr. Barbara Prainsack
Institut für Politikwissenschaft, Universität Wien
1010 Wien, Universitätsstraße 7
T +43-1-4277-494 23
barbara.prainsack@univie.ac.at
www.univie.ac.at
Originalpublikation in Nature Medicine:
New AI regulation in the EU seeks to reduce risk – but not increase public benefits. Barbara Prainsack and Nikolaus Forgó.
DOI: 10.1038/s41591-024-02874-2
https://www.nature.com/articles/s41591-024-02874-2
https://medienportal.univie.ac.at/media/aktuelle-pressemeldungen/detailansicht/a...
Criteria of this press release:
Journalists, Scientists and scholars
Politics, Social studies
transregional, national
Research results, Transfer of Science or Research
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
