idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Das Fraunhofer Heinrich-Hertz-Institut (HHI) und seine Partner starteten das neue Konsortialprojekt REFRAME (Flexible, resiliente und effiziente Machine-Learning-Modelle). Ziel des Projekts ist es, die Erklärbarkeit von Künstlicher Intelligenz (KI) zu verbessern und damit die Vertrauenswürdigkeit und Anwendbarkeit von KI-Systemen in sicherheitskritischen Bereichen wie der Medizin oder Mobilität zu erhöhen. Das Projekt wird vom Bundesministerium für Bildung und Forschung (BMBF) mit 1,39 Millionen Euro gefördert und läuft über einen Zeitraum von drei Jahren, seit 1. Oktober 2024 bis zum 30. September 2027.
Sogenannte „Vision Foundation Models“ (VFM) haben eine neue Ära der Innovation für Deep-Learning-Modelle eingeläutet. Diese leistungsfähigen, vortrainierten Modelle werden mit riesigen Bilddatensätzen trainiert und bilden die Grundlage für eine Vielzahl von KI-Anwendungen wie Bildklassifikation oder Objekt- und Gesichtserkennung.
Trotz ihrer beeindruckenden Leistung bleiben jedoch entscheidende Fragen zur Vertrauenswürdigkeit dieser Technologien offen. Insbesondere ist bislang unklar, wie sich die Genauigkeit und Zuverlässigkeit eines Modells verändern, wenn es außerhalb des ursprünglichen Trainingsbereichs agiert. Diese Themen müssen adressiert werden, um VFM-basierte Anwendungen in sicherheitskritischen Sektoren zuverlässig einsetzen zu können.
Das REFRAME-Team wird die Grenzen von VFM in Bezug auf Erklärbarkeit und Unsicherheitsquantifizierung untersuchen und neue Ansätze entwickeln, um die Vertrauenswürdigkeit und Transparenz dieser Modelle zu erhöhen. Ein weiterer Schwerpunkt liegt auf der Entwicklung effizienter Methoden, um die Technologie flexibel an spezielle Domänen und Aufgaben anzupassen – auch bei begrenzten Trainingsdaten.
Die Ergebnisse des Projekts werden nicht nur eine wegweisende wissenschaftliche Grundlage für die robuste und flexible Nutzung von VFM sein, sondern auch Potenzial für gesellschaftliche und wirtschaftliche Innovationen sowie neue Marktmöglichkeiten schaffen.
Neben dem Fraunhofer HHI sind das Leibniz-Institut für Agrartechnik und Bioökonomie e.V. und die Bergische Universität Wuppertal an dem Projekt beteiligt.
Dr.-Ing. Anna Hilsmann
Abteilungsleiterin Vision and Imaging Technologies
Tel. +49 30 31002-569
anna.hilsmann@hhi.fraunhofer.de
REFRAME
© iStock/ natrot
Criteria of this press release:
Journalists
Information technology, Physics / astronomy
transregional, national
Research projects
German
REFRAME
© iStock/ natrot
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
