idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Wie kann Europa bei der Regulierung Künstlicher Intelligenz (KI) seine Ziele effizient erreichen – und dabei selbst Künstliche Intelligenz nutzen? Im Projekt AI4POL wird ein internationales Forschungsteam untersuchen, ob die EU-Regelungen den Bürgerinnen und Bürgern tatsächlich helfen. Darüber hinaus wird das Team KI-Tools und datenwissenschaftliche Methoden entwickeln, mit denen Politik und Regulierungsbehörden die Wirkungen ihrer Gesetzgebung sowie mögliche Gefahren durch die Technologieentwicklung in nicht-demokratischen Staaten besser beobachten und auswerten kann. Das Projekt wird vom Programm „Horizon Europe” der EU gefördert.
Der Einsatz von Künstlicher Intelligenz und anderen digitalen Technologien sollte mit Menschenrechten, Demokratie und Verbraucherschutz vereinbar sein – darüber sind sich die europäischen Gesellschaften weitgehend einig. Die Europäische Union hat in den vergangenen Jahren umfangreiche Gesetze erlassen, die dem Einsatz von KI einen Rahmen geben, darunter den AI Act, den Data Act und den Digital Markets Act. Wie wirken diese Regulierungen in der Praxis? Wie wenden die Nutzerinnen und Nutzer die Funktionen an, die zu ihrem Schutz gedacht sind? Und wie gefährdet der Einsatz von KI in Staaten, die nicht dieselben Werte teilen, die Ziele der europäischen Politik?
Diese Fragen wird ein internationales, interdisziplinäres Forschungsteam im Projekt AI4POL untersuchen. Die Forschenden wollen der Politik nicht nur neue Erkenntnisse, sondern auch KI-Tools und datenwissenschaftliche Methoden zur Verfügung stellen, mit denen Politik und Behörden die Wirkungen ihrer Gesetze und Maßnahmen besser beobachten, auswerten und somit verbessern können.
Expertise aus Technologie, Sozialwissenschaften, Wirtschaft, Ethik, Jura
„Europa hat das Ziel, innovativ und wettbewerbsfähig zu sein, ohne seine Werte aufs Spiel zu setzen. Das kann nur mit einem wirksamen Regulierungsrahmen und gut informierten Entscheiderinnen und Entscheidern in Politik und öffentlicher Verwaltung gelingen“, sagt Projektleiter Prof. Jens Prüfer, Direktor des Tilburg Law and Economics Center an der Universität Tilburg. „Für solch ein Monitoring können wiederum Künstliche Intelligenz und Datenwissenschaft sehr hilfreich sein. Wir wollen die Politik unterstützen, die nicht tausende hochqualifizierte KI-Expertinnen und -Experten in ihren Reihen hat – anders als die großen Tech-Unternehmen.“
Bei AI4POL werden Forschende aus Technologieentwicklung, Ethik, Rechtswissenschaft, Ökonomie und Politikwissenschaft zusammenarbeiten. Beteiligt sind die Universität Tilburg, die Technische Universität München (TUM), die University of East Anglia (UEA), Visionary Analytics, Centerdata, die Università degli Studi di Roma Unitelma Sapienza und der TUM Think Tank. Das Forschungsteam wird von einem Advisory Board mit Vertreterinnen und Vertretern aus Regulierungsbehörden, Verbraucherschutzorganisationen, zivilgesellschaftlichen Organisationen und Unternehmen beraten. Die Europäische Union fördert das Projekt mit drei Millionen Euro.
Wie werden Verbraucherschutzmaßnahmen wahrgenommen?
Schwerpunkte wird das Forschungsteam zum einen auf den Verbraucherschutz und zum anderen auf die Finanzbranche legen. „Wir wissen zum Beispiel wenig darüber, wie viel die Menschen von den Hinweisen bei Onlineverträgen verstehen – und ob sie nicht einfach auf ,okay‘ klicken, weil die Texte viel zu lang und in juristischer Fachsprache verfasst sind“, sagt Gjergji Kasneci, Professor für Responsible Data Science an der TUM. „Wir wollen deshalb herausfinden, wie diese Verbraucherschutzmaßnahmen wahrgenommen werden, wie Unternehmen und Politik Feedback bekommen können und wie die Wirkung verbessert werden kann. Dabei können wiederum KI-Tools helfen, indem sie die komplizierten Texte vereinfacht zusammenfassen.“
Prof. Sean Ennis, Direktor des Centre for Competition Policy an der UEA, ergänzt: „KI verändert die Art und Weise, wie Informationen erzeugt und verarbeitet werden. Im Finanzwesen ist sie zu einem integralen Bestandteil der Entscheidungsfindung geworden, zum Beispiel bei der Kreditwürdigkeitsprüfung, bei automatisierter Geldanlage oder beim Handel per Algorithmus. Auch bei der Einhaltung von Vorschriften, der Betrugserkennung und der Sicherheit spielt KI eine wichtige Rolle. Wir werden sowohl die Chancen als auch die Risiken von KI in solchen Anwendungen untersuchen."
Wertlos werden könnten die europäischen Bestrebungen, sollten sich Technologien durchsetzen, die in Staaten mit anderen ethischen Maßstäben entwickelt werden. Deshalb wird das Forschungsteam ein Verfahren erarbeiten, mit dem die KI-Forschung und -Entwicklung in autoritären Staaten analysiert und spezifische Gefahren für Europa quantifiziert werden können.
Criteria of this press release:
Business and commerce, Journalists, Scientists and scholars, Students, Teachers and pupils, all interested persons
Economics / business administration, Information technology, Politics
transregional, national
Research projects
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
