idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Durch KI-Einsatz verlorenes menschliches Fachwissen kann im Zeitverlauf die Qualität ebendieser KI beeinträchtigen – im schlimmsten Fall schleichend und unbemerkt. Zu diesem Ergebnis kommt eine neue Studie von Forschenden der Universität Passau und der Arizona State University, die kürzlich in der renommierten Fachzeitschrift „Academy of Management Review“ erschienen ist.
Tech-Unternehmen weltweit machen Schlagzeilen mit Stellenabbau, oft mit Verweis auf den verstärkten Einsatz künstlicher Intelligenz (KI). Eine neue Studie von Forschenden der Universität Passau und der US-amerikanischen Arizona State University zeigt, dass diese Entscheidungen womöglich zu kurz gedacht sind.
Maschinell gelerntes Wissen hat für Organisationen den Vorteil, dass es das Wissen erfahrener Mitarbeitenden bewahren kann, wenn diese in den Ruhestand gehen oder anderweitig das Unternehmen verlassen. Doch auf Vergangenheitsdaten basierendes KI-Wissen altert und muss regelmäßig aktualisiert werden. Der so entstehende Kreislauf birgt für Unternehmen Risiken.
In der Studie „Fading Memories: The Role of Machine Learning in Organizational Knowledge Depreciation“, zu Deutsch etwa „Verblassende Erinnerungen: Die Rolle maschinellen Lernens für den Wissensverlust in Unternehmen“, zeigen Prof. Dr. Jin Gerlach von der Universität Passau und Prof. Dr. Don Lange von der Arizona State University, wie Unternehmen in diesen Zyklus geraten können:
- KI übernimmt: Während KI-Systeme etwa die Qualitätsprüfung eines Herstellungsprozesses erledigen, nutzen Mitarbeitende das dafür relevante Fachwissen seltener, vergessen dieses oder verlassen ganz das Unternehmen.
- Wissensverlust tritt ein: So gerät bestehendes menschliches Wissen verloren, während neue Angestellte entsprechendes Wissen nicht neu erwerben, wenn KI die Aufgaben übernommen hat.
- KI-Modelle veralten: Alternde KI-Modelle müssen mit Hilfe neuer Trainingsdaten aktualisiert werden, Modellvariablen müssen auf Relevanz geprüft werden oder Fehlprognosen des Modells fachlich beurteilt werden. Eine solche Aktualisierung erfordert menschliche Expertise, die aber zunehmend fehlt.
Damit können KI-Modelle durch Alterung zur Wissensfalle werden. „Verlorenes menschliches Fachwissen kann im Zeitverlauf die Qualität von KI-Modellen beeinträchtigen – im schlimmsten Fall schleichend und unbemerkt“, warnt der Passauer Wirtschaftsinformatiker Prof. Dr. Jin Gerlach. „Wenn Mitarbeitende Vorhersagen veralteter KI unkritisch übernehmen, kann das ihr eigenes Urteilsvermögen weiter untergraben und so zusätzlichen Wissensverlust begünstigen.“ Die Autoren unterstreichen in ihrer Studie, dass langfristig erfolgreicher KI-Einsatz nur gelingt, wenn Unternehmen gleichzeitig menschliches Wissen bewahren.
Effektiver KI-Einsatz braucht menschliche Expertise
„Unsere Erkenntnisse weisen auf längerfristige und ungewollte Folgen des Einsatzes von KI in Organisationen hin“, sagt Prof. Dr. Gerlach. „Sie betonen die Notwendigkeit, menschliche Expertise zu pflegen, da sonst ein effektiver Einsatz von KI-Systemen auf Dauer gefährdet ist.“ Die eingangs erwähnten Unternehmensentscheidungen erscheinen den Forschenden zufolge so in einem neuen Licht. Denn sie vernachlässigen damit menschliches Know-How – und schwächen so langfristig auch die KI.
Die Studie ist vor kurzem online in der Fachzeitschrift „Academy of Management Review“ erschienen. Es handelt sich dabei um eine der angesehensten wissenschaftlichen Zeitschriften im Managementbereich. Die Arbeit ist eine konzeptionelle Theoriestudie – sie basiert nicht auf neuen empirischen Daten, sondern verbindet bestehende Erkenntnisse aus Organisationsforschung und Informatik zu einem neuen Modell. Dabei leiten die Autoren eine Prozesstheorie ab: Diese erklärt, wie und warum ein Phänomen – hier der organisationale Wissensverlust durch KI – auftritt.
Über die Autoren
Erstautor ist Prof. Dr. Jin Gerlach, der an der Universität Passau den Lehrstuhl für Wirtschaftsinformatik mit Schwerpunkt Daten- und Informationsmanagement innehat. In seiner Forschung beschäftigt er sich mit den technologiebedingten Veränderungen in Wirtschaft und Gesellschaft. Ko-Autor Prof. Dr. Donald Lange forscht und lehrt an der W.P. Carey School of Business an der Arizona State University in den USA zu ethischen Fragen im Management.
Die beiden Autoren haben sich während eines Forschungsaufenthalts von Prof. Dr. Lange an der Universität Passau kennengelernt. Dieser verbrachte ein Jahr lang als Mercator-Fellow am Passauer DFG-Graduiertenkolleg 2720 „Digital Platform Ecosystems“, um das Zusammenspiel von öffentlichen Werten und digitalen Plattformen zu untersuchen. Bei dem Mercator-Fellowship handelt es sich um ein Stipendium, das die Deutsche Forschungsgemeinschaft (DFG) an Forschende vergibt, die intensiv in ein Projekt eingebunden sind.
Prof. Dr. Jin Gerlach
Lehrstuhl für Wirtschaftsinformatik mit Schwerpunkt Daten- und Informationsmanagement
Universität Passau
E-Mail: Jin.Gerlach@uni-passau.de
Gerlach, J. P. und Lange, D.: Fading Memories: The Role of Machine Learning in Organizational Knowledge Depreciation, Academy of Management Review.
https://journals.aom.org/doi/10.5465/amr.2024.0408
Prof. Dr. Jin Gerlach, Inhaber des Lehrstuhls für Wirtschaftsinformatik mit Schwerpunkt Daten- und I ...
Source: Universität Passau
Copyright: Universität Passau
Criteria of this press release:
Business and commerce, Journalists, Scientists and scholars, Students, Teachers and pupils, all interested persons
Economics / business administration, Information technology
transregional, national
Research results, Scientific Publications
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
