idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
KI-Copiloten sind bereits in vielen Unternehmen im Einsatz. Hilft das Beschäftigten bei der Datenanalyse und Entscheidungsfindung? Und wenn nein, wie lässt sich das ändern? Unter anderem diese Fragen erforscht ein Team der Universität Passau in einem neuen bidt-Projekt unter der Leitung von Prof. Dr. Ulrich Gnewuch.
Die Nutzung von Daten als Grundlage für Geschäftsentscheidungen ist in vielen Unternehmen gängige Praxis. Traditionell waren Entscheidungspersonen ohne technischen Hintergrund darauf angewiesen, dass ihnen technisch versiertere Kolleginnen und Kollegen Berichte, Dashboards oder andere Anwendungen bereitstellen.
In Zeiten von generativer künstlicher Intelligenz wie großen Sprachmodellen ändert sich das grundlegend. KI-Copiloten ermöglichen es Nutzerinnen und Nutzern, unabhängig von ihren technischen Fähigkeiten oder Vorkenntnissen, mittels natürlicher Sprache Erkenntnisse aus ihren Daten zu gewinnen. Viele Unternehmen setzen solche KI-Copiloten daher bereits ein, um Beschäftigte bei der datenbasierten Entscheidungsfindung zu unterstützen.
„Trotz des großen Potenzials gibt es auch zahlreiche Bedenken – nicht nur im Hinblick auf die Grenzen der Technologie, sondern auch wie Nutzerinnen und Nutzer mit den Antworten ihres Copiloten umgehen“, sagt Prof. Dr. Ulrich Gnewuch, Inhaber des Lehrstuhls für Wirtschaftsinformatik mit Schwerpunkt Nachvollziehbare KI-basierte Betriebliche Informationssysteme an der Universität Passau. „Viele Nutzerinnen und Nutzer haben Schwierigkeiten, das richtige Maß an Vertrauen in die Antworten zu finden. Das führt dann häufig zu ineffektiver oder ineffizienter Entscheidungsfindung, weil sie den möglicherweise fehlerhaften Antworten blind vertrauen oder viel Zeit damit verbringen, die Ergebnisse erst zu überprüfen.“
Der Wirtschaftsinformatiker leitet ein Forschungsteam, das genau diese Herausforderungen in einem neuen Vorhaben mit dem Titel „Vertrauenswürdige Generative KI-Copiloten für Datenanalysen in geschäftlichen Entscheidungsprozessen“ adressiert. In dem vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) der Bayerischen Akademie der Wissenschaften geförderten Projekt untersuchen die Forschenden, wie sich die Interaktion mit Copiloten auf geschäftliche Entscheidungsprozesse auswirkt und welche Rolle dabei die mentalen Modelle der Nutzenden spielen. Aufbauend auf diesen Erkenntnissen entwickelt das Team Gestaltungsprinzipien für vertrauenswürdige Copiloten und untersucht deren Wirkung in empirischen Studien. Abschließend werden daraus Handlungsempfehlungen für den Einsatz von Copiloten in Unternehmen abgeleitet.
Das Projekt ist im Januar 2025 gestartet und hat eine Laufzeit von vier Jahren. Es ist eines von zehn Projekten im neuen Forschungsschwerpunkt am bidt zum Thema „Mensch und generative KI: Trust in Human-AI Co-Creation“. Sprecherin des Forschungsschwerpunkts ist Prof. Dr. Hannah Schmid-Petri, die an der Universität Passau den Lehrstuhl für Wissenschaftskommunikation innehat.
Über den Projektleiter
Prof. Dr. Ulrich Gnewuch ist seit 2024 Inhaber des Lehrstuhls für Wirtschaftsinformatik mit Schwerpunkt Nachvollziehbare KI-basierte Betriebliche Informationssysteme an der Universität Passau, den der Freistaat Bayern im Rahmen der Hightech Agenda geschaffen hat. Im Mittelpunkt seiner Forschung an der Schnittstelle von Wirtschaftsinformatik und Mensch-Computer Interaktion stehen die Gestaltung, die Nutzung und die Auswirkungen von künstlicher Intelligenz in Unternehmen und in der Gesellschaft.
Prof. Dr. Ulrich Gnewuch
Lehrstuhl für Wirtschaftsinformatik mit Schwerpunkt Nachvollziehbare KI-basierte Betriebliche Informationssysteme
Universität Passau
Mail: Ulrich.Gnewuch@uni-passau.de
https://www.digital.uni-passau.de/beitraege/2025/forschungsschwerpunkt-vertrauen... Mehr Informationen zum neuen Forschungsschwerpunkt am bidt und den Projekten der Universität Passau
https://www.bidt.digital/forschungsprojekt/vertrauenswuerdige-generative-ki-copi... Projektbeschreibung von GenAICopilot auf der Webseite des bidt
Prof. Dr. Ulrich Gnewuch forscht zu nachvollziehbaren KI-basierten betrieblichen Informationssysteme ...
Universität Passau
Universität Passau
Criteria of this press release:
Business and commerce, Journalists, Scientists and scholars, Students, all interested persons
Economics / business administration, Information technology
transregional, national
Research projects
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
