idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
KI-Copiloten sind bereits in vielen Unternehmen im Einsatz. Hilft das Beschäftigten bei der Datenanalyse und Entscheidungsfindung? Und wenn nein, wie lässt sich das ändern? Unter anderem diese Fragen erforscht ein Team der Universität Passau in einem neuen bidt-Projekt unter der Leitung von Prof. Dr. Ulrich Gnewuch.
Die Nutzung von Daten als Grundlage für Geschäftsentscheidungen ist in vielen Unternehmen gängige Praxis. Traditionell waren Entscheidungspersonen ohne technischen Hintergrund darauf angewiesen, dass ihnen technisch versiertere Kolleginnen und Kollegen Berichte, Dashboards oder andere Anwendungen bereitstellen.
In Zeiten von generativer künstlicher Intelligenz wie großen Sprachmodellen ändert sich das grundlegend. KI-Copiloten ermöglichen es Nutzerinnen und Nutzern, unabhängig von ihren technischen Fähigkeiten oder Vorkenntnissen, mittels natürlicher Sprache Erkenntnisse aus ihren Daten zu gewinnen. Viele Unternehmen setzen solche KI-Copiloten daher bereits ein, um Beschäftigte bei der datenbasierten Entscheidungsfindung zu unterstützen.
„Trotz des großen Potenzials gibt es auch zahlreiche Bedenken – nicht nur im Hinblick auf die Grenzen der Technologie, sondern auch wie Nutzerinnen und Nutzer mit den Antworten ihres Copiloten umgehen“, sagt Prof. Dr. Ulrich Gnewuch, Inhaber des Lehrstuhls für Wirtschaftsinformatik mit Schwerpunkt Nachvollziehbare KI-basierte Betriebliche Informationssysteme an der Universität Passau. „Viele Nutzerinnen und Nutzer haben Schwierigkeiten, das richtige Maß an Vertrauen in die Antworten zu finden. Das führt dann häufig zu ineffektiver oder ineffizienter Entscheidungsfindung, weil sie den möglicherweise fehlerhaften Antworten blind vertrauen oder viel Zeit damit verbringen, die Ergebnisse erst zu überprüfen.“
Der Wirtschaftsinformatiker leitet ein Forschungsteam, das genau diese Herausforderungen in einem neuen Vorhaben mit dem Titel „Vertrauenswürdige Generative KI-Copiloten für Datenanalysen in geschäftlichen Entscheidungsprozessen“ adressiert. In dem vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) der Bayerischen Akademie der Wissenschaften geförderten Projekt untersuchen die Forschenden, wie sich die Interaktion mit Copiloten auf geschäftliche Entscheidungsprozesse auswirkt und welche Rolle dabei die mentalen Modelle der Nutzenden spielen. Aufbauend auf diesen Erkenntnissen entwickelt das Team Gestaltungsprinzipien für vertrauenswürdige Copiloten und untersucht deren Wirkung in empirischen Studien. Abschließend werden daraus Handlungsempfehlungen für den Einsatz von Copiloten in Unternehmen abgeleitet.
Das Projekt ist im Januar 2025 gestartet und hat eine Laufzeit von vier Jahren. Es ist eines von zehn Projekten im neuen Forschungsschwerpunkt am bidt zum Thema „Mensch und generative KI: Trust in Human-AI Co-Creation“. Sprecherin des Forschungsschwerpunkts ist Prof. Dr. Hannah Schmid-Petri, die an der Universität Passau den Lehrstuhl für Wissenschaftskommunikation innehat.
Über den Projektleiter
Prof. Dr. Ulrich Gnewuch ist seit 2024 Inhaber des Lehrstuhls für Wirtschaftsinformatik mit Schwerpunkt Nachvollziehbare KI-basierte Betriebliche Informationssysteme an der Universität Passau, den der Freistaat Bayern im Rahmen der Hightech Agenda geschaffen hat. Im Mittelpunkt seiner Forschung an der Schnittstelle von Wirtschaftsinformatik und Mensch-Computer Interaktion stehen die Gestaltung, die Nutzung und die Auswirkungen von künstlicher Intelligenz in Unternehmen und in der Gesellschaft.
Prof. Dr. Ulrich Gnewuch
Lehrstuhl für Wirtschaftsinformatik mit Schwerpunkt Nachvollziehbare KI-basierte Betriebliche Informationssysteme
Universität Passau
Mail: Ulrich.Gnewuch@uni-passau.de
https://www.digital.uni-passau.de/beitraege/2025/forschungsschwerpunkt-vertrauen... Mehr Informationen zum neuen Forschungsschwerpunkt am bidt und den Projekten der Universität Passau
https://www.bidt.digital/forschungsprojekt/vertrauenswuerdige-generative-ki-copi... Projektbeschreibung von GenAICopilot auf der Webseite des bidt
Prof. Dr. Ulrich Gnewuch forscht zu nachvollziehbaren KI-basierten betrieblichen Informationssysteme ...
Universität Passau
Universität Passau
Merkmale dieser Pressemitteilung:
Journalisten, Studierende, Wirtschaftsvertreter, Wissenschaftler, jedermann
Informationstechnik, Wirtschaft
überregional
Forschungsprojekte
Deutsch
Prof. Dr. Ulrich Gnewuch forscht zu nachvollziehbaren KI-basierten betrieblichen Informationssysteme ...
Universität Passau
Universität Passau
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
