Fehlentscheidungen durch KI vermeiden

idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
idw-Abo
Science Video Project

Thema Corona


Share on: 
03/25/2020 14:24

Fehlentscheidungen durch KI vermeiden

Andrea Mayer-Grenu Abteilung Hochschulkommunikation
Universität Stuttgart

    Konsortium NoBias mit Beteiligung der Universität Stuttgart erforscht Verzerrungen in Künstlicher Intelligenz

    Ob Kredit-Auskunft, Autoversicherung oder Medikamenten Tests: Künstliche Intelligenz (KI) wird heute bei Entscheidungen eingesetzt, die weitreichende Folgen für den Einzelnen und die Gesellschaft haben. Doch die dahinterliegenden Algorithmen können Daten falsch oder unfair interpretieren und dadurch zu diskriminierenden Entscheidungen kommen. Solche Verzerrungen aufzudecken und zu verhindern ist Ziel des europäischen Forschungsprojekts NoBIAS (Artificial Intelligence without Bias), an dem Prof. Steffen Staab, Inhaber der Professur „Analytic Computing“ und Cyber Valley-Professor an der Universität Stuttgart, beteiligt ist.

    Bei einer Kredit-Auskunft beispielsweise wird künstliche Intelligenz eingesetzt, um abzuschätzen, ob ein Kredit erfolgreich zurückgezahlt werden kann oder nicht. Als Entscheidungskriterien dienen dabei Daten wie das Gehalt der betroffenen Person. Geschieht dies automatisiert, kann das scheinbar plausible Kriterium aber unfair sein: Da zum Beispiel Frauen im Schnitt weniger verdienen, würde ihnen bei einer automatisierten Entscheidung womöglich ein Kredit versagt – obwohl sie ihn wahrscheinlich zurückgezahlt hätten. In anderen Bereichen könnte Menschen aufgrund solcher Verzerrungen ein Job, eine medizinische Behandlung oder eine bestimmte Information verwehrt werden.
    Solche Verzerrungen können in allen Phasen von KI-basierten Entscheidungsprozessen auftreten: wenn Daten gesammelt werden, wenn Algorithmen Daten in Entscheidungsfindungskapazität umwandeln oder wenn Ergebnisse der Entscheidungsfindung in Anwendungen verwendet werden. Vor diesem Hintergrund wollen die Wissenschaftler*innen in NoBias Methoden erforschen und entwickeln, die unvoreingenommene Entscheidungen auf der Grundlage von KI ermöglichen. Sie setzen dabei zum einen an den in großer Zahl anfallenden Daten selbst an und prüfen, ob diese als faire Grundlage herangezogen werden können. Zum zweiten konzentrieren sie sich auf leistungsstarke Algorithmen, die von Methoden des maschinellen Lernens getrieben werden. Last but not least versuchen die Forschenden, die Entscheidungen von KI zu erklären und transparent zu machen. Ziel ist es, voreingenommene und diskriminierende KI-Entscheidungsfindung zu erkennen und Lösungen anzubieten, die es einerseits erlauben, die Potentiale von KI auszuschöpfen und gleichzeitig die Einhaltung rechtlicher und sozialer Normen zu gewährleisten. Daher gehen die Forschenden über traditionelle KI-Algorithmen hinaus, die für die prädiktive Leistung optimiert sind, und betten ethische und rechtliche Prinzipien in KI-Algorithmen ein.

    Das NoBIAS-Konsortium umfasst Forschende aus acht Organisationen in fünf europäischen Staaten. Es ist interdisziplinär ausgerichtet und bündelt Fachwissen in den Bereichen künstliche Intelligenz, Recht und Soziologie. Das Netzwerk wird durch zehn assoziierte nicht-akademische Partner aus verschiedenen Anwendungsbereichen ergänzt, darunter Banken, Versicherungen und Pharmaunternehmen.


    Contact for scientific information:

    Prof. Steffen Staab, Universität Stuttgart, Institut für Parallele und Verteilte Systeme, Abteilung Analytic Computing,
    E-Mail: steffen.staab@ipvs.uni-stuttgart.de


    Original publication:

    https://onlinelibrary.wiley.com/doi/pdf/10.1002/widm.1356


    Criteria of this press release:
    Journalists, Scientists and scholars
    Information technology, Social studies
    transregional, national
    Research projects, Research results
    German


    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).

    Cookies optimize the use of our services. By surfing on idw-online.de you agree to the use of cookies. Data Confidentiality Statement
    Okay