idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Mathematische Garantien für neuronale Netzwerke: Ein interdisziplinäres Team der TU Wien präsentiert eine neue Methode bei der Top-Konferenz ICML
Wie verlässlich ist Künstliche Intelligenz wirklich? Ein interdisziplinäres Forschungsteam der TU Wien hat eine Methode entwickelt, mit der sich exakt berechnen lässt, wie sicher ein neuronales Netzwerk in einem definierten Inputbereich arbeitet. Das bedeutet: Man kann mathematisch garantieren, dass bestimmte Fehler nicht passieren – ein entscheidender Schritt für den sicheren Einsatz von KI in sensiblen Bereichen.
Von der Theorie zur Sicherheit
Ob im Smartphone oder im selbstfahrenden Auto: KI-Systeme sind längst Teil unseres Alltags. Doch gerade dort, wo es um Sicherheit geht, ist eine zentrale Frage entscheidend: Kann man garantieren, dass ein KI-System keine schwerwiegenden Fehler macht – auch wenn der Input leicht variiert?
Ein Forschungsteam der TU Wien – Dr. Andrey Kofnov, Dr. Daniel Kapla, Prof. Efstathia Bura und Prof. Ezio Bartocci – aus den Fachbereichen Informatik, Statistik und Mathematik, hat nun einen Weg gefunden, neuronale Netzwerke so zu analysieren, dass für definierte Eingabebereiche exakt berechnet werden kann, in welchem Wertebereich die Ausgaben liegen werden – und welche Fehler garantiert ausgeschlossen sind.
Kleine Störung, große Wirkung?
„Neuronale Netze verhalten sich normalerweise vorhersehbar – sie geben jedes Mal die gleiche Ausgabe, wenn man den gleichen Input eingibt“, sagt Dr. Andrey Kofnov. "Aber in der realen Welt sind die Eingaben oft verrauscht oder unsicher und können nicht immer durch einen einzigen, festen Wert beschrieben werden. Diese Unsicherheit bei der Eingabe führt zu Unsicherheit bei der Ausgabe."
„Nehmen wir an, ein neuronales Netz bekommt ein Bild als Input – und soll sagen, welches Tier es zeigt“, erklärt Prof. Ezio Bartocci. „Was passiert dann, wenn das Bild leicht verändert ist? Eine andere Kamera, etwas mehr Rauschen, veränderte Lichtverhältnisse – kann das dazu führen, dass die KI plötzlich etwas völlig anderes erkennt?“
„Das volle Spektrum möglicher Ergebnisse zu verstehen hilft dabei, bessere und sicherere Entscheidungen zu treffen – insbesondere in Bereichen, in denen viel auf dem Spiel steht, wie im Finanzwesen, im Gesundheitswesen oder im Ingenieurwesen“, fügt Dr. Kofnov hinzu. "Indem wir die Wahrscheinlichkeit möglicher Ergebnisse berechnen, können wir wichtige Fragen beantworten wie: Wie hoch ist die Wahrscheinlichkeit eines extremen Ergebnisses? Wie hoch ist das Risiko?"
Solche Fragen sind mit herkömmlichen Tests schwer zu beantworten. Zwar kann man viele Fälle durchprobieren – doch eine vollständige Absicherung ist praktisch unmöglich. Es könnte immer noch Spezialfälle geben, die man nicht getestet hat, und bei denen das System versagt.
Mathematik im hochdimensionalen Raum
Die Lösung der TU Wien basiert auf einem geometrischen Ansatz: „Die Menge aller möglichen Inputs – zum Beispiel die Menge aller möglichen Bilder, die man einem solchen AI-System eingeben kann, kann man sich geometrisch als Raum vorstellen, ähnlich wir unsere dreidimensionale Welt, aber mit einer beliebigen Zahl von Dimensionen“, sagt Prof. Efstathia Bura vom Institut für Stochastik und Wirtschaftsmathematik der TU Wien. „Wir zerlegen diesen Raum in kleine Teilbereiche, für die sich jeweils exakt bestimmen lässt, welche Ausgaben das neuronale Netz generiert.“
Dadurch lässt sich mathematisch die Wahrscheinlichkeit für unterschiedliche Ergebnis-Bereiche ermitteln, sodass bestimmte Fehler mit 100% Sicherheit ausgeschlossen werden können.
Die Theorie ist noch nicht auf große neuronale Netze, wie z. B. Large Language Models, anwendbar. "Eine KI wie ChatGPT ist viel zu komplex für diese Methode. Sie zu analysieren, würde eine unvorstellbare Menge an Rechenleistung erfordern", sagt Daniel Kapla. „Aber wir haben gezeigt, dass zumindest für kleine neuronale Netze eine rigorose Fehlerquantifizierung möglich ist.“
Interdisziplinäre Forschung bei SecInt
Entwickelt wurde die Methode im Rahmen des Doktoratskollegs SecInt der TU Wien, das die Zusammenarbeit unterschiedlicher Fachbereiche im Bereich IT-Sicherheit fördert. Auch ethische Fragestellungen und gesellschaftliche Auswirkungen von Technologie stehen dabei im Fokus.
Prof. Ezio Bartocci und Prof. Efstathia Bura arbeiteten gemeinsam mit den Doktoratsstudenten Andrey Kofnov und Daniel Kapla an der neuen Methode, die Konzepte aus KI-Theorie, Statistik und formalen Methoden miteinander verbindet.
Dr. Andrey Kofnov
Institut für Stochastik und Wirtschaftsmathematik
Technische Universität Wien
+43 1 58801 10588
andrey.kofnov@tuwien.ac.at
Dr. Daniel Kapla
Institut für Stochastik und Wirtschaftsmathematik
Technische Universität Wien
+43 1 58801 10584
daniel.kapla@tuwien.ac.at
Prof. Ezio Bartocci
Institut für Computer Engineering
Technische Universität Wien
+43 1 58801 18226
ezio.bartocci@tuwien.ac.at
Prof. Efstathia Bura
Institut für Stochastik und Wirtschaftsmathematik
Technische Universität Wien
+43 1 58801 10580
efstathia.bura@tuwien.ac.at
Die Publikation wurde nach Peer-Review für die ICML 2025 angenommen – eine der weltweit bedeutendsten Konferenzen im Bereich maschinelles Lernen. https://icml.cc/virtual/2025/poster/44916
Die Konferenz findet vom 13. bis 19. Juli 2025 in Vancouver (Kanada) statt.
Das Paper ist als Preprint verfügbar: https://arxiv.org/abs/2502.11672
Criteria of this press release:
Journalists, all interested persons
Information technology, Mathematics
transregional, national
Research results, Scientific Publications
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
