idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Daniel Braun erforscht, wie Beschäftigte bei der Zusammenarbeit mit KI-Systemen die Kontrolle behalten können
Mit dem Aufbau einer neuen Nachwuchsforschungsgruppe stärkt Daniel Braun die Forschung zur Künstlichen Intelligenz an der Uni Marburg. Das auf drei Jahre angelegte Projekt zur KI in der Arbeitswelt wird mit insgesamt 225.750 Euro von der Böckler-Stiftung gefördert. Im Zentrum steht eine zentrale Frage: Wie können Menschen auch dann den Überblick und die Kontrolle behalten, wenn KI-Systeme in betrieblichen Abläufen Entscheidungen vorbereiten oder treffen? Schon heute zeigt sich die Brisanz des Themas: Banken bewerten mit KI-Systemen automatisiert die Kreditwürdigkeit von Kundinnen und Kunden. Zwar liegt die Trefferquote in vielen Fällen hoch, doch die endgültige Entscheidung bleibt formal beim Menschen. Kreditprüferinnen und -prüfer sehen dabei meist nur das Ergebnis oder einzelne Einflussfaktoren, nicht jedoch die vollständige Logik des Modells. Insbesondere angesichts hoher Fallzahlen und Zeitdruck gleicht es häufig der Suche nach der Nadel im Heuhaufen, die wenigen problematischen Entscheidungen zuverlässig herauszufiltern.
Die Nadel im Heuhaufen
„Wir wollen erforschen, wie Menschen bei der beruflichen Zusammenarbeit mit KI auch in Zukunft die Kontrolle behalten können. Dafür brauchen sie Möglichkeiten, die Systeme bestmöglich an ihre Bedürfnisse anzupassen. Wir glauben, dass zukünftige Nutzerinnen und Nutzer schon während der Entwicklung eines KI-Systems mitbestimmen sollten“, sagt Braun. Ihn beschäftigt besonders, dass der öffentliche Diskurs häufig auf potenziellen Arbeitsplatzverlust fokussiert ist. „Mindestens genauso wichtig ist die Frage, wie KI die Arbeitsbedingungen verändert“, sagt Braun. Ziel seiner Arbeitsgruppe ist es daher, technische Verfahren und organisatorische Prozesse zu entwickeln, mit denen Beschäftigte Einfluss auf Design, Entwicklung und Einsatz betrieblicher KI-Systeme nehmen können. Das Projektbudget sieht für die Arbeitsgruppe bis zu drei Promotionsstipendien vor.
„Künstliche Intelligenz wird Wirtschaft und Gesellschaft in den kommenden Jahren grundlegend verändern – umso wichtiger ist es, ihre Auswirkungen auf die Arbeitswelt frühzeitig wissenschaftlich zu begleiten“, betont Prof. Dr. Thomas Nauss, Präsident der Philipps-Universität Marburg. „Mit der neuen Nachwuchsforschungsgruppe von Daniel Braun stärken wir unsere interdisziplinäre KI-Forschung und leisten einen wichtigen Beitrag dazu, technologische Innovation mit gesellschaftlicher Verantwortung zu verbinden.“
Austausch mit Gewerkschaften und interdisziplinärer Dialog
Der gesellschaftliche Rahmen macht die Forschung hochaktuell. Mit der europäischen KI-Verordnung wurde ein erster Regulierungsrahmen geschaffen, der Verbraucherinnen und Verbraucher schützt. Für sogenannte Hochrisikosysteme, die zum Beispiel in der Medizin oder beim autonomen Fahren zum Einsatz kommen, wird eine menschliche Kontrollinstanz künftig sogar verpflichtend – der „Human-in-the-Loop“. Doch Verantwortung allein reicht nicht aus, wenn organisatorische und technische Mittel fehlen, um Systeme wirksam zu beeinflussen. Genau hier setzt das Marburger Projekt an: Es verbindet technologische Entwicklung mit arbeitswissenschaftlichen, rechtlichen und gesellschaftlichen Perspektiven und trägt damit zu einer verantwortungsvollen Gestaltung der digitalen Transformation bei. „Auch der Austausch mit Partnern wie Gewerkschaften und die interdisziplinäre Arbeit mit Kolleg*innen reizt mich sehr“, freut sich Braun auf das Projekt.
Bildtext: Prof. Dr. Daniel Braun. Foto: Martin Schäfer
Bild zum Download: https://www.uni-marburg.de/de/aktuelles/news/2026/daniel-braun
Prof. Dr. Daniel Braun
Natural Language Processing
Fachbereich Mathematik und Informatik
Philipps-Universität Marburg
Tel.: 06421 28-21557
E-Mail: daniel.braun@uni-marburg.de
https://Informationen zur Arbeitsgruppe finden sich unter www.responsible-nlp.net
Criteria of this press release:
Journalists
Information technology, Mathematics
transregional, national
Research projects
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
