idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Das Fraunhofer Heinrich-Hertz-Institut (HHI) und seine Partner starteten das neue Konsortialprojekt REFRAME (Flexible, resiliente und effiziente Machine-Learning-Modelle). Ziel des Projekts ist es, die Erklärbarkeit von Künstlicher Intelligenz (KI) zu verbessern und damit die Vertrauenswürdigkeit und Anwendbarkeit von KI-Systemen in sicherheitskritischen Bereichen wie der Medizin oder Mobilität zu erhöhen. Das Projekt wird vom Bundesministerium für Bildung und Forschung (BMBF) mit 1,39 Millionen Euro gefördert und läuft über einen Zeitraum von drei Jahren, seit 1. Oktober 2024 bis zum 30. September 2027.
Sogenannte „Vision Foundation Models“ (VFM) haben eine neue Ära der Innovation für Deep-Learning-Modelle eingeläutet. Diese leistungsfähigen, vortrainierten Modelle werden mit riesigen Bilddatensätzen trainiert und bilden die Grundlage für eine Vielzahl von KI-Anwendungen wie Bildklassifikation oder Objekt- und Gesichtserkennung.
Trotz ihrer beeindruckenden Leistung bleiben jedoch entscheidende Fragen zur Vertrauenswürdigkeit dieser Technologien offen. Insbesondere ist bislang unklar, wie sich die Genauigkeit und Zuverlässigkeit eines Modells verändern, wenn es außerhalb des ursprünglichen Trainingsbereichs agiert. Diese Themen müssen adressiert werden, um VFM-basierte Anwendungen in sicherheitskritischen Sektoren zuverlässig einsetzen zu können.
Das REFRAME-Team wird die Grenzen von VFM in Bezug auf Erklärbarkeit und Unsicherheitsquantifizierung untersuchen und neue Ansätze entwickeln, um die Vertrauenswürdigkeit und Transparenz dieser Modelle zu erhöhen. Ein weiterer Schwerpunkt liegt auf der Entwicklung effizienter Methoden, um die Technologie flexibel an spezielle Domänen und Aufgaben anzupassen – auch bei begrenzten Trainingsdaten.
Die Ergebnisse des Projekts werden nicht nur eine wegweisende wissenschaftliche Grundlage für die robuste und flexible Nutzung von VFM sein, sondern auch Potenzial für gesellschaftliche und wirtschaftliche Innovationen sowie neue Marktmöglichkeiten schaffen.
Neben dem Fraunhofer HHI sind das Leibniz-Institut für Agrartechnik und Bioökonomie e.V. und die Bergische Universität Wuppertal an dem Projekt beteiligt.
Dr.-Ing. Anna Hilsmann
Abteilungsleiterin Vision and Imaging Technologies
Tel. +49 30 31002-569
anna.hilsmann@hhi.fraunhofer.de
REFRAME
© iStock/ natrot
Merkmale dieser Pressemitteilung:
Journalisten
Informationstechnik, Physik / Astronomie
überregional
Forschungsprojekte
Deutsch
REFRAME
© iStock/ natrot
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
