idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Können Unternehmen Künstlicher Intelligenz vertrauen? Forscher:innen am Softwaretechnik-Institut paluno der Universität Duisburg-Essen (UDE) haben KI-Systeme entwickelt, die bei Geschäftsprozessen unterstützen. Das Besondere: Neben genauen Prognosen und Vorschlägen für Prozessanpassungen liefern die Systeme Erklärungen für ihre Ergebnisse.
In kürzester Zeit Zusammenhänge in großen Datenmengen erkennen, das macht Künstliche Intelligenz (KI) zu einem wertvollen Werkzeug bei der Entscheidungsfindung. Das gilt auch für die beiden KI-Systeme, die das Team um die UDE-Professoren Andreas Metzger und Klaus Pohl entwickelt hat: Das eine System erlaubt sehr genaue Vorhersagen und kann beispielsweise in der Logistik helfen, Verspätungen von Transportmitteln frühzeitig zu erkennen. Das zweite System empfiehlt, ob und wann ein laufender Prozess angepasst werden sollte. Wenn etwa Störungen im Bahnverkehr vorhergesagt werden, zeigt das System, wann es kostengünstiger ist, den Transport von den Schienen auf LKW umzudisponieren.
Doch die hohe Leistungsfähigkeit der KI hat ihren Preis: Das Wissen, das die Systeme durch maschinelles Lernen aufbauen, steckt tief in abertausenden Verknüpfungen eines neuronalen Netzes. Anwender:innen können kaum nachvollziehen, was die Systeme gelernt haben und ob die Verknüpfungen sinnvoll sind. „Den Vorhersagen und Empfehlungen von KI-Systemen sollte man daher nicht blind vertrauen“, sagt Prof. Metzger. „Wir forschen deshalb daran, wie sich die KI-Systeme so gestalten lassen, dass sie verständliche Erklärungen ihrer Ergebnisse liefern.“
Das paluno-Team hat dazu Techniken entwickelt, die einen Einblick in das interne Verhalten der KI-Systeme ermöglichen und dabei an Erkenntnisse über menschliche Erklär- und Verstehensprozesse anknüpft. Berücksichtigt wurde zum einen, dass sich Menschen für kontrafaktische Zusammenhänge interessieren. Die computergenerierten Erklärungen zeigen, welche anderen Eingaben in die KI zu einem anderen Ergebnis geführt hätten. Zum anderen sind die Erklärungen selektiv und erklären nur diejenigen Ereignisse im Lernprozess des KI-Systems, die ausschlaggebend für die Ergebnisse waren. Darüber hinaus arbeitet das Team aktuell an interaktiven Schnittstellen zwischen Mensch und KI-System. Konkret soll ein Chatbot ähnlich wie ChatGPT entwickelt werden, der Nutzer:innen die interne Funktionsweise der KI-Systeme erklärt.
Die UDE-Forschungsarbeiten, die mit insgesamt rund 800.000 Euro gefördert werden, starteten im kürzlich abgeschlossenen EU-Projekt DataPorts und werden im neuen EU-Projekt DYNABIC fortgeführt. Hier werden KI-basierte Lösungen entwickelt, um Betreibern kritischer Infrastrukturen eine Entscheidungsunterstützung für die proaktive Anpassung aufgrund von Cyber-Attacken zu liefern.
Prof. Dr. Andreas Metzger, Software Systems Engineering (SSE); Tel. 0201/183-4650, andreas.metzger@paluno.uni-due.de
https://paluno.uni-due.de/aktuelles/news-insights/artikel/kein-blindes-vertrauen...
Merkmale dieser Pressemitteilung:
Journalisten
Informationstechnik, Verkehr / Transport
überregional
Forschungs- / Wissenstransfer
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
