idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Von Kindesbeinen lernen wir, was gut und was schlecht ist, durch unsere Eltern und das soziale Umfeld. Der soziale Austausch über KI-gesteuerte Software wird aktuell immer prägender. Aber sind in den Algorithmen die Normen ethischen Handelns integriert? Und wie beeinflusst KI unser Verhalten? Das erforscht Prof. Dr. Nils Köbis am Research Center for Trustworthy Data Science and Security der Universitätsallianz Ruhr. Er hat die Professur für ‚Human Understanding of Machines and Algorithms‘ an der Fakultät für Informatik der Universität Duisburg-Essen angenommen.
Am Research Center for Trustworthy Data Science and Security (RC Trust) der Research Alliance untersucht Professor Köbis den Einfluss von KI auf ethisches Verhalten sowie das Problem von Korruption und wie KI bei ihrer Bekämpfung unterstützen könnte. „Menschen mit beruflichen Interessenskonflikten neigen dazu, Moral teils zu ihren Gunsten auszulegen. Wir erforschen, ob Menschen den (un)ethischen Empfehlungen von KI folgen“, sagt Köbis. Erste Ergebnisse zeigen: „Unehrliche Ratschläge fördern die Unehrlichkeit – ehrliche nicht unbedingt die Ehrlichkeit. Ganz egal, ob sie von KI oder von Menschen stammen. Die Transparenz der Algorithmen allein reicht im Kampf gegen korrumpierende KI nicht aus."
In einem weiteren Projekt beschäftigt sich Professor Köbis mit KI-Chatbots, also Computerprogrammen, die dafür trainiert werden, virtuelle Freundschaften zu vermitteln. „Die Chat-Antworten können von den Entwicklern nicht vollständig kontrolliert werden“, sagt er. Der Sprachbot greift etwa auf Formulierungen aus Liebes- oder Horrorgeschichten zurück, die mitunter voller Gewalt sind und tragisch enden. Zudem vergisst das Programm nach einem Update teils seine menschlichen Gesprächspartner:innen, und an den Chats nimmt außer der nutzenden Person und dem Bot auch das den Bot entwickelnde Unternehmen teil. „Was wir der KI anvertrauen, wissen auch die Techkonzerne. Sie geben aber nicht preis, was sie mit den Daten tun“, so der UDE-Forscher.
Nils Köbis studierte Psychologie (2007-2010) an der Universität Münster und Sozialpsychologie (2010-2012) an der Vrije Universiteit Amsterdam, wo er von 2012 bis 2016 über Korruption forschte und 2018 promoviert wurde. Dann arbeitete er als Post-Doc zu Korruption, ethischem Verhalten und KI am Center for Experimental Economics and Political Decision-Making an der Universität von Amsterdam. Danach war er im Projekt „Ethics and Governance of Artificial Intelligence“ am Zentrum für Mensch und Maschine des Max-Planck-Instituts für Bildungsforschung – erst als Postdoktorand (2016-2020), Research Scientist (2021/2022) und zuletzt als Senior Research Scientist (2022-2023). Seine Forschung wurde mehrfach ausgezeichnet und europaweit gefördert.
Hinweis für die Redaktion:
Ein Foto von Prof. Nils Köbis, Ph.D. (© UDE / Fabian Strauch) stellen wir Ihnen für die Berichterstattung als Download zur Verfügung:
https://www.uni-due.de/imperia/md/images/pool-ps/personen/koebis-nils-c-ude-fabi...
Weitere Informationen:
https://rc-trust.ai/groups/human-understanding-of-machines-and-algorithms
Prof. Nils Köbis, Ph.D., RC Trust, nils.koebis@uni-due.de
Redaktion: Dr. Alexandra Nießen, Tel. 0203/37-91487, alexandra.niessen@uni-due.de
https://academic.oup.com/ej/article/134/658/766/7269206
https://www.nature.com/articles/s41562-021-01128-2
Wie beeinflusst KI uns? Prof. Dr. Nils Köbis erforscht es.
UDE / Fabian Strauch
Criteria of this press release:
Business and commerce, Journalists, Scientists and scholars, Students, Teachers and pupils, all interested persons
Electrical engineering, Information technology, Media and communication sciences, Psychology, Social studies
transregional, national
Personnel announcements, Research projects
German
Wie beeinflusst KI uns? Prof. Dr. Nils Köbis erforscht es.
UDE / Fabian Strauch
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
