idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Forschungsteam der Universität Magdeburg entwickelt KI zur Lügenerkennung und untersucht Folgen ihres Einsatzes für Wirtschaft und Gesellschaft
Künstliche Intelligenz könnte in Zukunft verlässlicher als Menschen bewusste Täuschungen erkennen und damit das soziale Miteinander, aber auch die "Spielregeln" der Wirtschaft grundlegend verändern. Ein interdisziplinäres Forschungsteam aus Wirtschaftswissenschaftlern und Neuroinformationstechnikern der Otto-von-Guericke-Universität Magdeburg untersucht in einem aktuellen Forschungsprojekt, wie verlässlich eine KI trainiert werden kann, Täuschungen zu erkennen und welche Folgen ihre Akzeptanz für Wirtschaft und Gesellschaft hätte.
Im Rahmen des von der Deutschen Forschungsgemeinschaft (DFG) geförderten Forschungsprojekts Die Wirkung des Einsatzes KI gestützter Technologie zur Lügenerkennung in Verhandlungen entwickeln die Wirtschaftswissenschaftler Prof. Joachim Weimann und Dr. Dmitri Bershadskyy gemeinsam mit dem Team für Neuro-Informationstechnik (NIT) unter der Leitung von Prof. Ayoub Al-Hamadi in den nächsten drei Jahren ein KI-System, das mithilfe von Gesichtsdaten trainiert wird, bewusste Täuschungen und Lügen zu erkennen. Anschließend wollen die Wissenschaftler herausfinden, ob Menschen in stressreichen Verhandlungssituationen dem Urteil dieser KI vertrauen und welche Konsequenzen das hätte.
Gerade in der Wirtschaft seien Täuschungen häufig strategisch motiviert, erklärt Wirtschaftswissenschaftler Dr. Dmitri Bershadskyy. „Wenn jemand beispielsweise ein gebrauchtes Auto verkauft, weiß die Verkäuferin systematisch mehr über die wahre Qualität als der Käufer. In diesem Fall spricht man von asymmetrischer Information." Asymmetrische Informationen seien ein Schlüsselelement in verschiedenen wirtschaftlichen Transaktionen und im täglichen Leben, so Bershadskyy weiter. Das Verschwinden oder die starke Verringerung solcher Asymmetrien könne das menschliche Verhalten erheblich beeinflussen. „Eine KI, die Lügen zuverlässig erkennt, hätte das Potenzial, Verhandlungen transparenter zu machen, aber auch, unser gesellschaftliches Miteinander maßgeblich zu verändern. Die Folgen wären ähnlich tiefgreifend wie beim Aufkommen von Social Media oder Vergleichsportalen.“
Das Forschungsteam entwickelt dafür ein KI-System, das allein anhand von Videoaufnahmen Gesichts- und Kopfbewegungen sowie emotionale Reaktionen in realitätsnahen Verhandlungssituationen analysiert. „Wir sind zuversichtlich, dass wir unter den speziellen experimentellen Bedingungen mit unserer KI eine Lügenerkennungsrate von über 80% erreichen können", sagt der Neuroinformationstechniker Prof. Ayoub Al-Hamadi. Bei den nachgestellten Verhandlungssituationen erhalten manche Verkäufer finanzielle Anreize, ihre Informationen falsch anzugeben. Die Versuchspersonen entscheiden jedoch selbst, ob sie die Wahrheit sagen oder ihren Verhandlungspartner täuschen. Zusätzlich wird der Einfluss von Stress untersucht: Führt ein hoher finanzieller Einsatz dazu, dass Menschen mehr oder überzeugender lügen? Oder macht ein höheres finanzielles Risiko Täuschungen leichter erkennbar?
Allerdings, nicht jede Unwahrheit sei per se schlecht, betont Bershadskyy. „Lügen können auch unnötige Konflikte vermeiden und unser Miteinander erleichtern", so der Wirtschaftswissenschaftler. „Eine Technologie, die jegliche Abweichung von der Wahrheit aufdeckt, könnte funktionierende soziale Mechanismen und unser ganzes gesellschaftliches Miteinander empfindlich verändern.“
„Wir müssen die Konsequenzen dieser technologischen Möglichkeiten verstehen, bevor sie allgemein verfügbar sind", ergänzt Prof. Joachim Weimann abschließend. „Sonst riskieren wir, von der technologischen Entwicklung überrollt zu werden.“
Zum Abschluss des dreijährigen Projekts ist 2028 ein öffentlicher Workshop geplant, bei dem sich Expertinnen und Experten aus Wissenschaft, Politik, Wirtschaft und Gesellschaft über den Nutzen, die Risiken und notwendige Regulierungen beim Einsatz einer solchen Technologie austauschen.
Dr. Dmitri Bershadskyy
Lehrstuhl VWL, insb. Wirtschaftspolitik
0391 67-57333
dmitri.bershadskyy@ovgu.de
https://link.ovgu.de/dfglying DFG Seite
https://ovgu-nit.github.io/deception/ Mehr Informationen
Criteria of this press release:
Business and commerce, Journalists, Scientists and scholars, Students, Teachers and pupils, all interested persons
Economics / business administration
transregional, national
Research projects
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
