idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instance:
Share on: 
01/08/2024 10:58

Die Achillesferse der Künstlichen Intelligenz: Warum Diskriminierung ein ungelöstes Problem bleibt

Carolin Höll Hochschulkommunikation
Duale Hochschule Baden-Württemberg

    Eine aktuelle Studie der DHBW Stuttgart am Studienzentrum Dienstleistungsmanagement hat die Fähigkeit der Künstlichen Intelligenz (KI) zur Erkennung diskriminierender Inhalte in Bildern und Werbeanzeigen untersucht und dabei sowohl beeindruckende Fortschritte als auch bestehende Grenzen aufgezeigt.

    In der umfassenden Untersuchung wurde die KI mit einer Vielzahl von Bildern und Werbeanzeigen konfrontiert und um eine Bewertung gebeten. Darunter befanden sich unter anderem 60 Werbeanzeigen, die der Deutsche Werberat in der jüngeren Vergangenheit gerügt hatte. Die erzielten Ergebnisse zeigen, dass die KI eine erstaunlich hohe Fähigkeit besitzt, Diskriminierungen in Werbeanzeigen mit einer beeindruckenden Treffsicherheit zu identifizieren (F1 Score: 0.949). So wurden die vom Deutschen Werberat gerügten Werbeanzeigen in aller Regel von der KI als potenziell diskriminierend eingeschätzt. Gleichzeitig erfolgte bei den nichtdiskriminierenden Werbeanzeigen ein solcher Hinweis in den meisten Fällen nicht.

    Dies ist insbesondere vor dem Hintergrund beeindruckend, da die KI noch vor zehn Jahren erhebliche Schwierigkeiten hatte, die in einem Bild dargestellten Objekte korrekt zu klassifizieren. In der Zwischenzeit und dank Millionen von Bildern hat die KI gelernt, weitgehend treffsicher zwischen einem Hund und einer Katze zu unterscheiden. Die rasanten Fortschritte der KI werfen die Frage auf, wo derzeit die Grenzen der KI verlaufen. „Wir wollten wissen, inwiefern die KI ein diskriminierendes Verhalten erkennt, wenn man dieser nur eine Werbeanzeige zur Verfügung stellt und diese auffordert, die Anzeige zu bewerten“, erläutert Studentin Helen Beckers das Vorgehen bei der Studie.

    Algorithmische Diskriminierung

    Dies ist von besonderer Relevanz angesichts des massiven Anwachsens von Diskriminierung durch Algorithmen, die Menschen aufgrund von Geschlecht, Religion, Weltanschauung, Rassismus oder Herkunft benachteiligen können. Dieser Aspekt gewinnt an Bedeutung, da Diskriminierung durch Algorithmen zunehmend zu einem ernsten Problem wird, das verschiedene Bereiche wie Bewerbungsverfahren, Kreditvergabe, Medizin und die Berechnung der Rückfallwahrscheinlichkeit von Straftäter*innen betrifft.

    ChatGPTs Fähigkeit zur Aufdeckung von Sexualisierung und Stereotypen

    Besonders aufschlussreich ist die Erkenntnis, dass ChatGPT Sexualisierung und stereotypisches Denken aufdecken kann. Eine modifizierte Anzeige mit vertauschten Geschlechterrollen zeigte, dass die KI auch in umgekehrten Konstellationen Diskriminierung identifizieren kann. „Diese unterschiedliche Bewertung durch ChatGPT in den zwei Szenarien unterstreicht die Fähigkeit, Diskriminierung auch in umgekehrten Konstellationen zu identifizieren“, nennt Student Sven Peter als weitere Erkenntnis aus der Studie.

    Grenzen und Herausforderungen bei der Diskriminierungserkennung durch KI

    An die Grenzen stieß die KI jedoch bei der Identifizierung weiterer Formen der Diskriminierung, wie der Objektivierung, der Respektlosigkeit sowie des Machtmissbrauchs. „Die Ergebnisse der Studie unterstreichen die Notwendigkeit, KI-Systeme weiterzuentwickeln, um Diskriminierung effektiver zu erkennen und zu verhindern“, berichtet Student Marius Funk. Die Studie wirft wichtige Fragen auf, wie KI-Technologien in der Zukunft eingesetzt werden können, um Diskriminierung in verschiedenen Bereichen zu bekämpfen und die Gleichberechtigung zu fördern.

    Studienzentrum Dienstleistungsmanagement

    Die Studie wurde unter Leitung von Prof. Dr. U. Bucher am Studienzentrum Dienstleistungsmanagement an der DHBW Stuttgart durchgeführt. Das Studienzentrum Dienstleistungsmanagement bereitet die Studierenden auf verantwortungsvolle betriebswirtschaftliche Tätigkeitsfelder in innovativen und kundenorientierten Projekten sowie in vielfältigen Funktions- und Servicebereichen von Dienstleistungsunternehmen vor.

    Die DHBW Stuttgart:
    Die Duale Hochschule Baden-Württemberg Stuttgart gehört mit rund 8.000 Studierenden in Bachelor und Masterstudiengängen zu den größten Hochschuleinrichtungen in den Regionen Stuttgart und Oberer Neckar. In Kooperation mit rund 2.000 ausgewählten Unternehmen und sozialen Einrichtungen bietet sie mehr als 60 national und international anerkannte, berufsintegrierte Studienrichtungen in den Bereichen Wirtschaft, Technik, Sozialwesen und Gesundheit an. Die Bachelor-Studierenden wechseln im dreimonatigen Rhythmus zwischen der Hochschule und dem Ausbildungsbetrieb, dem Dualen Partner. Auf diese Weise sammeln sie bereits während der Studienzeit Berufserfahrung. Finanzielle Unabhängigkeit, sichere Chancen auf dem Arbeitsmarkt durch außergewöhnlich hohe Übernahmequoten, kleine Kursgruppen und die internationale Ausrichtung bieten den Studierenden enorme Vorteile. Über den Bachelorabschluss hinaus bietet die DHBW ein duales Masterprogramm an. Weitere Informationen unter: www.dhbw-stuttgart.de


    Contact for scientific information:

    Prof. Dr. Ulrich Bucher
    Professor für BWL, insbesondere Marketing und Dienstleistungsmanagement
    Duale Hochschule Baden-Württemberg (DHBW) Stuttgart
    Theodor-Heuss-Str. 2
    70174 Stuttgart
    E-Mail: ulrich.bucher@dhbw-stuttgart.de
    Mobil: 0177 / 2307 364


    Images

    Criteria of this press release:
    Business and commerce, Journalists, Scientists and scholars
    Economics / business administration, Information technology, Media and communication sciences, Social studies
    transregional, national
    Research results, Transfer of Science or Research
    German


     

    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).