idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Eine Studie zeigt: Menschen projizieren Rollenbilder auf KI – und behandeln „weibliche“ und „männliche“ Systeme unterschiedlich.
Laut einer neuen Studie von Forschenden der LMU und des Trinity College Dublin bringen Menschen geschlechtsspezifische Vorurteile in ihre Interaktionen mit Künstlicher Intelligenz (KI) ein. Die kürzlich in der Fachzeitschrift iScience veröffentlichten Ergebnisse sind von erheblicher Relevanz für die Gestaltung, Nutzung und Regulierung interaktiver KI-Systeme.
Die Studie mit über 400 Teilnehmerinnen und Teilnehmern ergab, dass Menschen weiblich gekennzeichnete KI in vergleichbarem Maße ausnutzen wie menschliche Frauen und männlich gekennzeichneter KI in ähnlichem Ausmaß misstrauen wie menschlichen Männern. Insbesondere im Fall von weiblich gekennzeichneter KI stellte die Studie fest, dass Ausbeutung im Mensch-KI-Kontext sogar noch häufiger vorkam als bei der Interaktion mit menschlichen Gesprächspartnerinnen.
Die Studie ist die erste, die die Rolle des Geschlechts von Maschinen in der Zusammenarbeit zwischen Mensch und KI mit einem systematischen empirischen Ansatz untersucht hat.
Dazu spielten die Teilnehmenden wiederholt Runden des „Gefangenendilemmas“ – eines klassischen Experiments der Spieltheorie und Verhaltensökonomik, bei dem sich die Spielenden entscheiden müssen, ob sie sich kooperativ verhalten oder die andere Person ausnutzen. Um zu untersuchen, ob Vertrauen und Kooperationsbereitschaft auch im Kontext Künstlicher Intelligenz vom Geschlecht beeinflusst wird, wurden die Spielpartner jeweils als Mensch oder KI und zusätzlich als männlich, weiblich, nicht-binär oder geschlechtsneutral bezeichnet.
KI-Entwicklung ohne Vorurteile?
Die Ergebnisse zeigen, dass sich geschlechtsspezifische Erwartungen aus Mensch-Mensch-Kontexten auch auf die Zusammenarbeit zwischen Mensch und KI übertragen. Dies hat laut den Forschenden erhebliche Auswirkungen darauf, wie Organisationen interaktive KI-Systeme entwerfen, einsetzen und regulieren sollten.
„Diese Studie weist auf ein wichtiges Dilemma hin“, sagt Dr. Jurgis Karpus, Mitautor der Studie und Postdoktorand am Lehrstuhl für Philosophy of Mind der LMU. „KI-Agenten mit menschenähnlichen Eigenschaften auszustatten, kann die Zusammenarbeit zwischen Menschen und KI fördern, birgt jedoch auch die Gefahr, dass unerwünschte bestehende geschlechtsspezifische Vorurteile aus menschlichen Interaktionen auf Künstliche Intelligenz übertragen und verstärkt werden.“
Da KI zunehmend Teil unseres Alltags werde, sei es wichtig, die Geschlechterdarstellung bei der Gestaltung von KI sorgfältig zu berücksichtigen, um beispielsweise das Engagement der Menschen zu maximieren und Vertrauen in ihre Interaktionen mit automatisierten Systemen aufzubauen, so die Forschenden. Entwicklerinnen und Entwickler interaktiver KI-Anwendungen sollten Vorurteile in menschlichen Interaktionen erkennen und abbauen, um eine Verstärkung schädlicher geschlechtsspezifischer Diskriminierung zu verhindern und vertrauenswürdige, faire und sozial verantwortliche KI-Systeme zu schaffen.
Dr. Jurgis Karpus
Lehrstuhl für Philosophy of Mind
Ludwig-Maximilians-Universität München
Jurgis.Karpus@lmu.de
Sepideh Bazazi, Jurgis Karpus & Taha Yasseri: AI’s assigned gender affects human-AI cooperation. iScience 2025
https://doi.org/10.17605/OSF.IO/DP5EC
Criteria of this press release:
Journalists
Information technology, Mathematics, Philosophy / ethics, Psychology, Social studies
transregional, national
Research results, Scientific Publications
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
