idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Können Unternehmen Künstlicher Intelligenz vertrauen? Forscher:innen am Softwaretechnik-Institut paluno der Universität Duisburg-Essen (UDE) haben KI-Systeme entwickelt, die bei Geschäftsprozessen unterstützen. Das Besondere: Neben genauen Prognosen und Vorschlägen für Prozessanpassungen liefern die Systeme Erklärungen für ihre Ergebnisse.
In kürzester Zeit Zusammenhänge in großen Datenmengen erkennen, das macht Künstliche Intelligenz (KI) zu einem wertvollen Werkzeug bei der Entscheidungsfindung. Das gilt auch für die beiden KI-Systeme, die das Team um die UDE-Professoren Andreas Metzger und Klaus Pohl entwickelt hat: Das eine System erlaubt sehr genaue Vorhersagen und kann beispielsweise in der Logistik helfen, Verspätungen von Transportmitteln frühzeitig zu erkennen. Das zweite System empfiehlt, ob und wann ein laufender Prozess angepasst werden sollte. Wenn etwa Störungen im Bahnverkehr vorhergesagt werden, zeigt das System, wann es kostengünstiger ist, den Transport von den Schienen auf LKW umzudisponieren.
Doch die hohe Leistungsfähigkeit der KI hat ihren Preis: Das Wissen, das die Systeme durch maschinelles Lernen aufbauen, steckt tief in abertausenden Verknüpfungen eines neuronalen Netzes. Anwender:innen können kaum nachvollziehen, was die Systeme gelernt haben und ob die Verknüpfungen sinnvoll sind. „Den Vorhersagen und Empfehlungen von KI-Systemen sollte man daher nicht blind vertrauen“, sagt Prof. Metzger. „Wir forschen deshalb daran, wie sich die KI-Systeme so gestalten lassen, dass sie verständliche Erklärungen ihrer Ergebnisse liefern.“
Das paluno-Team hat dazu Techniken entwickelt, die einen Einblick in das interne Verhalten der KI-Systeme ermöglichen und dabei an Erkenntnisse über menschliche Erklär- und Verstehensprozesse anknüpft. Berücksichtigt wurde zum einen, dass sich Menschen für kontrafaktische Zusammenhänge interessieren. Die computergenerierten Erklärungen zeigen, welche anderen Eingaben in die KI zu einem anderen Ergebnis geführt hätten. Zum anderen sind die Erklärungen selektiv und erklären nur diejenigen Ereignisse im Lernprozess des KI-Systems, die ausschlaggebend für die Ergebnisse waren. Darüber hinaus arbeitet das Team aktuell an interaktiven Schnittstellen zwischen Mensch und KI-System. Konkret soll ein Chatbot ähnlich wie ChatGPT entwickelt werden, der Nutzer:innen die interne Funktionsweise der KI-Systeme erklärt.
Die UDE-Forschungsarbeiten, die mit insgesamt rund 800.000 Euro gefördert werden, starteten im kürzlich abgeschlossenen EU-Projekt DataPorts und werden im neuen EU-Projekt DYNABIC fortgeführt. Hier werden KI-basierte Lösungen entwickelt, um Betreibern kritischer Infrastrukturen eine Entscheidungsunterstützung für die proaktive Anpassung aufgrund von Cyber-Attacken zu liefern.
Prof. Dr. Andreas Metzger, Software Systems Engineering (SSE); Tel. 0201/183-4650, andreas.metzger@paluno.uni-due.de
https://paluno.uni-due.de/aktuelles/news-insights/artikel/kein-blindes-vertrauen...
Criteria of this press release:
Journalists
Information technology, Traffic / transport
transregional, national
Transfer of Science or Research
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
