idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instanz:
Teilen: 
24.06.2024 12:18

Vertrauenswürdige KI made in Mannheim

Linda Schädler Abteilung Kommunikation
Universität Mannheim

    Wie können mit Künstlicher Intelligenz (KI) nachvollziehbare medizinische Entscheidungen getroffen werden? Damit beschäftigt sich ein neues Projekt an der Universität Mannheim, das vom Bundes­ministerium für Bildung und Forschung (BMBF) eine Förderzusage erhielt.

    Wissensgraphen beeinflussen täglich unser Leben und doch sind sie in der Öffentlichkeit wenig bekannt. Wer beispielsweise auf einer Streaming-Plattform nach Filmempfehlungen sucht, hat die Antwort oft ihnen zu verdanken. Wissensgraphen stellen einen wesentlichen Aspekt der Künstlichen Intelligenz (KI) dar und beschreiben allgemein ein Modell, anhand dessen Informationen gesucht und miteinander verknüpft werden.

    Ziel des von Prof. Dr. Heiko Paulheim geleiteten Forschungs­projekts LAVA ist es, Wissensgraphen, die in KI eingebaut werden, automatisiert zu erstellen und zu verbessern. Paulheim ist Inhaber des Lehr­stuhls für Data Science an der Universität Mannheim und LAVA steht für „Lösungen für die Automatisierte Verbesserung und Anreicherung von Wissensgraphen“. Das Projekt setzt der Mannheimer Informatiker in Zusammenarbeit mit der Karlsruher Firma medicalvalues GmbH um, mit der er bereits seit 2023 in einem Projekt zur KI-basierten Erkennung von Diabetes kooperiert. Medicalvalues spezialisiert sich auf KI-Lösungen für medizinische Diagnostik in Laboren und Kliniken. Anders als bei Filmempfehlungen ist es auf diesem Gebiet unabdingbar, dass die eingesetzte KI verlässlich und vertrauenswürdig funktioniert.

    Gemeinsames Projektziel von LAVA ist ein zertifiziertes Medizinprodukt, das es Ärzt*innen künftig erleichtern soll, schnelle und präzise Diagnosen zu erstellen. Im Falle einer seltenen Krankheit sollen künftig beispielsweise Daten wie Röntgenbilder, Blutwerte und weitere relevante Messungen zusammengeführt und mit Hilfe eines Wissensgraphen verknüpft werden, um dem behandelnden Mediziner oder der Medizinerin die Entscheidung über weitere Schritte zu erleichtern. Das Team um Paulheim steuert dazu Softwarebausteine bei, die es erlauben, diesen Wissensgraph stets aktuell und fehlerfrei zu halten.

    „Unser Ziel ist es, wiederverwendbare, gut dokumentierte Komponenten für White-Box KI zur Verfügung zu stellen“, erklärt Paulheim. White-Box KI bezeichnet Modelle, die transparent machen, wie Entscheidungen zustande kommen – etwa durch die Nutzung von Wissensgraphen, die auch für Menschen verständlich sind. Die Nutzenden können also verstehen, welche Daten einer Entscheidung zugrunde liegen – anders als bei Black-Box Modellen wie Chat GPT, bei denen es nicht möglich ist, die Antworten nachzuvollziehen. „Eine KI ist erst dann vertrauenswürdig, wenn der Mensch jede Entscheidung nachvollziehen und bei Fehlentscheidungen eingreifen kann“, so Paulheim weiter. So solle es bei medicalvalues möglich sein, dass die KI künftig Erweiterungen des Wissensgraphen vorschlägt, jede dieser Erweiterungen aber von medizinischem Personal überprüft und gegebenenfalls korrigiert werden kann.

    Mit seiner Idee konnte sich der Mannheimer KI-Entwickler bei einem DATIpilot-Pitch in Darmstadt unter 600 Teilnehmenden durchsetzen. Das Projekt erhält eine Förderung des Bundes­ministeriums für Bildung und Forschung (BMBF) in Höhe von insgesamt 300.000 Euro für die kommenden 18 Monate.

    Zu DATIpilot
    Die neue Förderlinie DATIPilot des BMBF zielt darauf ab, Innovationen in Verbindung mit Forschung zu fördern. Sie wendet sich an Akteur*innen aus Wissenschaft und Gesellschaft, die transfer­orientierte Projektideen zur Bewältigung aktueller gesellschaft­licher Herausforderungen realisieren möchten.

    Für das Modul „Innovations­sprint“ der Förderlinie, bei dem eine konkrete, kreative Transfer- oder Innovations­idee entwickelt wird, hatten sich insgesamt 3.000 Projekte mit einer Kurzskizze beworben. 600 dieser eingereichten Projektideen wurden als förderwürdig eingestuft und zu einem der deutschland­weit in acht Städten stattfindenden Pitch-Verfahren eingeladen – dar­unter in Darmstadt. Die dort vorstellenden Projektteams fungierten gleichzeitig als Jury und wählten ca. 25 Prozent der Projektideen für eine Förderung aus.

    Kontakt:
    Prof. Dr. Heiko Paulheim
    Lehr­stuhl für Data Science
    Data and Web Science Group
    Universität Mannheim
    Tel.: +49 621 181-2652
    E-Mail: heiko.paulheim@uni-mannheim.de

    Yvonne Kaul
    Forschungs­kommunikation
    Universität Mannheim
    Tel: +49 621 181-1266
    E-Mail: kaul@uni-mannheim.de


    Wissenschaftliche Ansprechpartner:

    Prof. Dr. Heiko Paulheim
    Lehr­stuhl für Data Science
    Data and Web Science Group
    Universität Mannheim
    Tel.: +49 621 181-2652
    E-Mail: heiko.paulheim@uni-mannheim.de


    Weitere Informationen:

    https://www.bmbf.de/bmbf/shareddocs/pressemitteilungen/de/2024/03/040324-DATI-Ro... Pressemitteilung des BMBF


    Bilder

    Anhang
    attachment icon Prof. Dr. Heiko Paulheim bei der Vorstellung seines Projekts

    Merkmale dieser Pressemitteilung:
    Journalisten
    Informationstechnik, Medizin
    überregional
    Forschungsprojekte, Wissenschaftspolitik
    Deutsch


     

    Hilfe

    Die Suche / Erweiterte Suche im idw-Archiv
    Verknüpfungen

    Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.

    Klammern

    Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).

    Wortgruppen

    Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.

    Auswahlkriterien

    Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).

    Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).