idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Grafik: idw-Logo

idw - Informationsdienst
Wissenschaft

Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instance:
Share on: 
03/18/2025 08:49

Wie könnte Künstliche Intelligenz weltweit Fairness bei der Verteilung öffentlicher sozialer Leistungen erhöhen?

Jonas Siehoff Kommunikation und Presse
Johannes Gutenberg-Universität Mainz

    Internationales Forschungsprojekt "AI FORA – Artificial Intelligence for Assessment" unter Leitung der Johannes Gutenberg-Universität Mainz stellt Ergebnisse mit einem frei verfügbaren Sammelband vor

    Weltweit wird Künstliche Intelligenz (KI) zunehmend in vielen Ländern bei der Verteilung öffentlicher sozialer Leistungen eingesetzt, zum Beispiel bei der Verteilung von Renten- oder Arbeitslosengeldern, der Bewilligung von Asylanträgen oder der Vergabe von Kindergartenplätzen. Die Technologie soll unter anderem dabei helfen, Fairnesskriterien für den individuellen Erhalt solcher Leistungen anzuwenden und Antragstellende dementsprechend zu bewerten – wobei die angelegten Gerechtigkeitsmaßstäbe von Land zu Land variieren. Zum Beispiel richtet sich in Indien die Verteilung sozialer Leistungen nach dem Kastensystem, in China nach der Qualität staatsbürgerlichen Verhaltens. Aber auch innereuropäisch unterscheiden sich Fairnesskonzepte bei der Verteilung knapper staatlicher Ressourcen gewaltig. Das sind einige der zentralen, mittels partizipativer Forschung gewonnenen Ergebnisse des internationalen Forschungsprojekts "AI FORA – Artificial Intelligence for Assessment", die kürzlich in einem online frei verfügbaren Sammelband veröffentlicht worden sind. An dem rund dreieinhalbjährigen Projekt beteiligt waren unter Leitung der Johannes Gutenberg-Universität Mainz (JGU) unter anderem das Deutsche Forschungszentrum für Künstliche Intelligenz in Kaiserslautern, die Universität Augsburg und die University of Surrey, Großbritannien. Das Projekt wurde von der VolkswagenStiftung mit rund 1,5 Millionen Euro gefördert und im Dezember 2024 abgeschlossen.

    Vergleich KI-gestützter sozialer Bewertungen in neun Ländern auf vier Kontinenten

    Das nun erschienene, rund 300-seitige Buch vergleicht den Status quo und die gewünschten Szenarien KI-gestützter sozialer Bewertungen in neun Ländern auf vier Kontinenten: Deutschland, Spanien, Estland, Ukraine, USA, Nigeria, Iran, Indien und China. "Die Fallstudien machen das Ausmaß deutlich, in dem Gerechtigkeitskriterien für den Erhalt staatlicher Leistungen kultur- und kontextabhängig sind. Auch innerhalb von Gesellschaften gibt es hierzu sehr unterschiedliche Perspektiven, die sich in ständiger Aushandlung befinden. Dies muss sich in der Technologie niederschlagen. Es reicht also nicht aus, ein einziges standardisiertes KI-System für soziale Bewertungen in der öffentlichen Leistungserbringung zu entwickeln und weltweit zum Einsatz zu bringen. Wir brauchen flexible, dynamische und adaptive Systeme. Deren Entwicklung ist auf den Beitrag aller gesellschaftlicher Akteure, auch den von vulnerablen Gruppen, zur Gestaltung von partizipativer, kontextspezifischer und fairer KI angewiesen", betont Prof. Dr. Petra Ahrweiler vom Institut für Soziologie der JGU, die das Projekt AI FORA geleitet hat. Nach ihren Angaben wird demnächst ein weiteres Buch erscheinen, in dem die Forschenden die politikrelevanten Modellierungs- und Simulationsergebnisse des AI FORA-Projekts vorstellen und dann zeigen wollen, wie Künstliche Intelligenz konkret verbessert werden kann, um Gerechtigkeits- oder Diskriminierungsprobleme bei der Vergabe öffentlicher sozialer Leistungen zu lösen.


    Contact for scientific information:

    Prof. Dr. Petra Ahrweiler
    Arbeitsbereich Technik- und Innovationssoziologie, Simulationsmethoden
    Institut für Soziologie
    Johannes Gutenberg-Universität Mainz
    55099 Mainz
    Tel.: 06131 39-29132
    E-Mail: petra.ahrweiler@uni-mainz.de
    https://technikundinnovation.soziologie.uni-mainz.de/team/prof-dr-petra-ahrweile...


    Original publication:

    P. Ahrweiler (Hg.), Participatory Artificial Intelligence in Public Social Services. From Bias to Fairness in Assessing Beneficiaries, Springer Cham, 3. März 2025,
    DOI: 10.1007/978-3-031-71678-2
    https://link.springer.com/book/10.1007/978-3-031-71678-2


    More information:

    https://www.ai-fora.de/ – Forschungsprojekt "Artificial Intelligence for Assessment" (AI FORA)
    https://presse.uni-mainz.de/bringen-ki-technologien-soziale-gerechtigkeit/ – Pressemitteilung "Bringen KI-Technologien soziale Gerechtigkeit?" (18.07.2024)


    Images

    Criteria of this press release:
    Business and commerce, Journalists, Scientists and scholars, Students, Teachers and pupils, all interested persons
    Information technology, Politics, Social studies
    transregional, national
    Research projects, Research results
    German


     

    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).