idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Johannes Paetzold erhält eine Förderung aus dem Emmy-Noether-Programm der Deutschen Forschungsgemeinschaft (DFG) für die Entwicklung nachvollziehbarer Künstlicher Intelligenz.
Künstliche Intelligenz erzielt heute beeindruckende Ergebnisse bei der Analyse von Bildern und Texten – doch wie moderne Modelle zu ihren Entscheidungen gelangen, bleibt oft eine Black Box. Genau hier setzt Johannes Paetzold an, der nun von der Deutschen Forschungsgemeinschaft im Rahmen des Emmy Noether-Programms ausgezeichnet wird. Die Fördersumme beträgt inklusive Programmpauschale rund 2,1 Millionen Euro für einen Zeitraum von sechs Jahren.
Derzeit fehlt grundlegenden Vision-Language Models (VLMs) oft das Verständnis für zugrunde liegende physikalische Zusammenhänge. Gerade in sensiblen Bereichen wie der Medizin ist diese fehlende Nachvollziehbarkeit ein zentrales Hindernis für den verlässlichen Einsatz. Paetzolds Ziel ist es, moderne Vision-Language-Modelle so weiterzuentwickeln, dass sie Strukturen und Zusammenhänge in Bildern tatsächlich verstehen – und ihre Entscheidungen für Menschen nachvollziehbar machen.
Dafür verbindet er Methoden aus Geometrie, Topologie und Graphentheorie mit aktuellen KI-Architekturen. Die Grundidee: Geometrische Konzepte wie der kürzeste Weg auf einer Karte oder das Wiedererkennen eines Objekts unabhängig von seiner Lage sind dem menschlichen Denken vertraut. Werden solche Konzepte in KI-Systeme integriert, sollten diese robuster, nachvollziehbarer und besser interpretierbar sein.
Im Fokus stehen medizinische Anwendungen wie die Früherkennung von Augen-, Gefäß- und Krebserkrankungen; die Methoden sind jedoch allgemein einsetzbar, etwa für Satellitenbilder. „Langfristig sollen KI-Werkzeuge entstehen, die behandelnden Ärztinnen und Ärzten verlässliche Entscheidungshilfen bieten und zugleich für Patientinnen und Patienten verständlich bleiben“, sagt Paetzold.
https://www.lmu.de/de/newsroom/newsuebersicht/news/erklaerbare-ki-emmy-noether-f...
Criteria of this press release:
Journalists
interdisciplinary
transregional, national
Contests / awards, Personnel announcements
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
