idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Sprachmodelle, die auf Künstlicher Intelligenz (KI) basieren, antworten auf jede Frage – aber nicht immer mit der richtigen Antwort. Hilfreich wäre es daher für Nutzerinnen und Nutzer zu wissen, wie vertrauenswürdig ein KI-System ist. Ein Team der Ruhr-Universität Bochum und der TU Dortmund schlägt sechs Dimensionen vor, mit denen sich die Vertrauenswürdigkeit eines Systems beschreiben lässt – egal, ob es sich dabei um Personen, Institutionen, klassische Maschinen oder KI-Systeme handelt.
Das Konzept beschreiben Dr. Carina Newen und Prof. Dr. Emmanuel Müller von der TU Dortmund zusammen mit dem Philosophen Prof. Dr. Albert Newen von der Ruhr-Universität Bochum im internationalen philosophischen Fachjournal „Topoi“, online veröffentlicht am 14. November 2025.
Sechs Dimensionen von Vertrauenswürdigkeit
Ob ein bestimmtes KI-System vertrauenswürdig ist, kann nicht mit „Ja“ oder „Nein“ beantwortet werden. Die Autoren und Autorin schlagen vor, für jedes System zu beurteilen, wie ausgeprägt sechs verschiedene Dimensionen sind, und so ein Profil der Vertrauenswürdigkeit zu erstellen.
Bei den Dimensionen handelt es sich um:
1. Objektive Funktionalität: Wie gut erledigt das System seine Kernaufgabe und wird die Qualität überprüft und garantiert?
2. Transparenz: Wie transparent sind die Prozesse des Systems?
3. Unsicherheit von zugrunde liegenden Daten und Modellen: Wie verlässlich und gesichert gegen Missbrauch sind Daten und Modelle?
4. Verkörperung: In welchem Maße handelt es sich um ein verkörpertes oder ein virtuelles System?
5. Unmittelbarkeit: In welchem Maße findet Austausch mit dem System statt?
6. Verpflichtung: In welchem Maße kann das System eine Verpflichtung gegenüber dem Vertrauenden haben?
„Anhand dieser Kriterien kann man sichtbar machen, dass die Vertrauenswürdigkeit gegenwärtiger KI-Systeme – wie ChatGPT oder autonome Fahrzeuge – in den meisten Dimensionen noch starke Defizite aufweist“, so das Bochumer-Dortmunder Team. „Es wird zugleich deutlich, wo der Nachholbedarf besteht, wenn KI-Systeme eine hinreichende Vertrauenswürdigkeit erreichen sollen.“
Zentrale Dimensionen aus technischer Sicht
Aus technischer Sicht sind die Dimensionen Transparenz und Unsicherheit von zugrunde liegenden Daten und Modellen entscheidend. Sie betreffen prinzipielle Defizite von KI-Systemen. „Das sogenannte deep learning produziert bei großen Datenmengen bemerkenswerte Leistungen. KI-Systeme sind zum Beispiel im Schach jedem Menschen überlegen“, erläutert Emmanuel Müller. „Aber die zugrunde liegenden Prozesse sind für uns intransparent, wodurch bislang ein zentrales Defizit der Vertrauenswürdigkeit entsteht.“
Ähnlich verhält es sich mit der Unsicherheit von Daten und Modellen. „KI-Systeme werden schon von Firmen eingesetzt, um Bewerbungen vorzusortieren“, gibt Carina Newen ein Beispiel. „Dabei stecken in den Daten, mit denen die KI trainiert wird, Vorurteile, die das KI-System dann fortschreibt.“
Zentrale Dimensionen aus philosophischer Sicht
Aus philosophischer Sicht führt das Team das Beispiel ChatGPT an, das zwar bei jeder Frage und Aufgabe eine klug klingende Antwort produziert, dabei aber halluzinieren kann: „Das KI-System erfindet Informationen, ohne dies sichtbar zu machen“, betont Albert Newen: „KI-Systeme können und werden als Informationssysteme hilfreich sein, aber wir müssen lernen, sie stets mit kritischem Verstand zu betrachten und nicht blind zu vertrauen.“
Als fragwürdig stuft Newen hingegen die Entwicklung von Chat-Bots als Ersatz für menschliche Kommunikation ein. „Zwischenmenschliches Vertrauen zu einem Chat-Bot aufzubauen, ist gefährlich, weil ein solcher keinerlei Verpflichtung gegenüber dem vertrauenden Menschen hat“, so Newen. „Es ergibt keinen Sinn zu erwarten, dass der Chat-Bot Versprechen einhalten kann.“
Die Profilbetrachtung von Vertrauenswürdigkeit in den verschiedenen Dimensionen kann laut der Autorin und den Autoren helfen zu verstehen, in welchem Maße Menschen KI-Systemen als Informationsexperten vertrauen können. Zugleich helfe es zu sehen, warum kritischer Alltagsverstand mehr denn je gefragt sein wird.
Kooperation im Ruhr Innovation Lab
Die Ruhr-Universität Bochum und die TU Dortmund, die derzeit in der Exzellenzstrategie gemeinsam als Ruhr Innovation Lab antreten, kooperieren eng zu Themen, die dazu beitragen, im digitalen Zeitalter eine zukunftsfähige und resiliente Gesellschaft zu entwickeln. Die aktuelle Veröffentlichung entstammt einer Zusammenarbeit des Instituts für Philosophie II in Bochum mit dem Research Center Trustworthy Data Science and Security, das die beiden Partneruniversitäten gemeinsam mit der Universität Duisburg-Essen in der Universitätsallianz Ruhr gegründet haben. Die Autorin Carina Newen hat als erste Doktorandin des Centers promoviert.
Prof. Dr. Albert Newen
Institut für Philosophie II
Fakultät für Philosophie und Erziehungswissenschaft
Ruhr-Universität Bochum
Tel.: +49 234 32 22139
E-Mail: albert.newen@ruhr-uni-bochum.de
Carina Newen, Emmanuel Müller, Albert Newen: Trust and Uncertainties: Characterizing Trustworthy AI Systems Within a Multidimensional Theory of Trust, in: Topoi, 2025, DOI: 10.1007/s11245-025-10287-0, https://link.springer.com/article/10.1007/s11245-025-10287-0
Merkmale dieser Pressemitteilung:
Journalisten
Informationstechnik, Philosophie / Ethik
überregional
Forschungsergebnisse, Wissenschaftliche Publikationen
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
