idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Künstliche Intelligenz (KI) soll das Gesundheitssystem noch leistungsfähiger machen. Doch Cyberangriffe können nicht nur die Patientensicherheit gefährden, sondern auch Medizingeräte und die Arbeit von Rettungskräften beeinträchtigen. Mit dem Projekt „SecureNeuroAI“ wollen Forschende der Universität Bonn, des Universitätsklinikums Bonn und des FIZ Karlsruhe sichere, KI-gestützte Methoden zur Echtzeiterkennung medizinischer Notfälle am Beispiel epileptischer Anfälle entwickeln. Die Ergebnisse sollen über die Epilepsieanfallserkennung hinaus Anwendung finden. Das Bundesministerium für Forschung, Transfer und Raumfahrt (BMFTR) fördert das Vorhaben für drei Jahre mit fast 2,5 Millionen Euro.
Künstliche Intelligenz (KI) ist in aller Munde und in fast allen Lebensbereichen auf dem Vormarsch – auch auf dem weiten Feld der Gesundheitsversorgung. Medizinische Geräte und Anwendungen, die KI-Methoden einsetzen, haben das Potential, die Lebensqualität von Patientinnen und Patienten zu verbessern. Mit der Integration von KI in die Patientenversorgung steigt jedoch das Risiko von Cyberangriffen, die nicht nur die Patientensicherheit gefährden, sondern auch die Arbeit von Rettungskräften und die Funktionstüchtigkeit von Medizingeräten beeinträchtigen können.
Das Projekt „SecureNeuroAI“ wird in den nächsten drei Jahren vom Bundesministerium für Forschung, Transfer und Raumfahrt (BMFTR) mit fast 2,5 Millionen Euro gefördert. Es wird unter anderem darum gehen, Verfahren zur Datenauthentifizierung zu entwickeln, die die KI-Verarbeitung der Daten nicht beeinträchtigen, aber dennoch einen Ursprungsnachweis dieser Informationen erlauben.
Das Vorhaben wird von Prof. Dr. Elena Demidova koordiniert, Leiterin der Arbeitsgruppe „Data Science and Intelligent Systems“ (DSIS) der Universität Bonn, die ein Mitglied in den Transdisziplinären Forschungsbereichen „Modelling“ und „Sustainable Futures“ ist. Elena Demidovas Arbeitsgruppe bringt umfangreiche KI-Expertise in das Projekt ein. An dem Vorhaben beteiligt sind Prof. Dr. Michael Meier, Leiter der Arbeitsgruppe „IT-Sicherheit“ am Institut für Informatik der Universität Bonn, Prof. Dr. Björn Krüger von der Klinik für Epileptologie des Universitätsklinikums Bonn, Leiter der Arbeitsgruppe „Personalisierte digitale Gesundheit und Telemedizin“, und Prof. Franziska Boehm vom FIZ Karlsruhe – Leibniz-Institut für Informationsinfrastruktur.
Die Forschenden von „SecureNeuroAI“ streben die Entwicklung sicherer, KI-gestützter Methoden zur Echtzeiterkennung medizinischer Notfälle am Beispiel epileptischer Anfälle an. Die Erkennung basiert auf einer umfassenden Analyse und Erfassung multimodaler Sensordaten. Hierfür werden beispielsweise tragbare elektronische Geräte („Wearables“), die Vitalparameter wie Herz- und Atemfrequenz erfassen, sowie klinische Daten von Patienten genutzt.
Cybersichere KI-Modelle
Die gewonnenen Daten werden durch cybersichere KI-Modelle analysiert, welche Anfälle erkennen und zuverlässig von potenziellen Datenmanipulationen unterscheiden sollen. Parallel dazu definiert das Projektteam technische, organisatorische und rechtliche Maßnahmen, um die Einbindung dieser KI-Methoden in klinische und häusliche Anwendungsfälle zu unterstützen.
Die Arbeitsgruppe von Prof. Dr. Elena Demidova von der Universität Bonn übernimmt eine zentrale Rolle in der Entwicklung von KI-Methoden zur Authentifizierung von Daten sowie bei der Entwicklung von erklärbaren KI-Modellen zur Erkennung von Manipulationen und Anfallsereignissen. „KI-Modelle werden durch Daten angetrieben und sind stark von ihnen abhängig, weshalb die Entwicklung von Schutzmechanismen wie Datenauthentifizierung und Manipulationserkennung von entscheidender Bedeutung ist“, sagt Prof. Dr. Demidova. „Besonders im Bereich der KI-gestützten Erkennung medizinischer Notfälle stellt die Manipulationserkennung eine große Herausforderung dar – bedingt durch die Komplexität der relevanten Datenmuster und der begrenzten Datenverfügbarkeit.“
Das Universitätsklinikum Bonn (UKB) übernimmt eine zentrale Rolle bei der klinischen Validierung und Integration der entwickelten KI-Modelle. Als Anwendungspartner werden in der Klinik und Poliklinik für Epileptologie multimodale Daten zur Anfallserkennung systematisch erfasst und unter klinischen Bedingungen aufbereitet, um eine realitätsnahe Datengrundlage für die KI-Modelle zu schaffen. „Künstliche Intelligenz wird in der Auswertung klinischer Daten eine immer größere Rolle spielen“, sagt Prof. Dr. Björn Krüger von der Klinik für Epileptologie des Universitätsklinikums Bonn. „Gerade im Gesundheitsbereich, wo wir mit besonders sensiblen Patientendaten arbeiten, ist ein sicheres Systemdenken unerlässlich – genau hier setzt das Projekt SecureNeuroAI an.“
Die Arbeitsgruppe von Prof. Dr. Michael Meier von der Universität Bonn bringt umfangreiche Erfahrungen in aktuellen IT-Sicherheits-Forschungsthemen ein. „Aus Studien zur Cybersicherheit wissen wir, dass vernetzte Medizinprodukte selbst, insbesondere aber die begleitenden Infrastrukturen, Schwachstellen aufweisen, die unbemerkte Manipulationen von Sensordaten ermöglichen können“, sagt Professor Meier, der auch Mitglied in den Transdisziplinären Forschungsbereichen „Modelling“, „Individuals & Societies“ und „Sustainable Futures“ an der Universität Bonn ist.
Die von Prof. Dr. Franziska Boehm geleitete Forschungsabteilung Immaterialgüterrechte (IGR) beim FIZ Karlsruhe (FIZ) analysiert Datenschutz- und IT-Vorgaben sowie Rechtsfragen der künstlichen Intelligenz. Daraus sollen Empfehlungen für gesellschaftliche Prozesse, die digitale Wissenschaft, einschließlich deren Infrastruktureinrichtungen, abgeleitet werden.
Ziel: KI-Modelle und Daten vor Manipulationen schützen
Die Projektergebnisse sollen einen wichtigen Beitrag zur Stärkung der Cybersicherheit von kritischen medizinischen Geräten leisten, die KI-Methoden zur Erkennung von lebensbedrohlichen Zuständen in Echtzeit verwenden. Diese neuen technischen Lösungen sollen es ermöglichen, sowohl KI-Modelle als auch deren zugrunde liegende Daten vor Manipulationen zu schützen. Die Projektergebnisse sollen weit über die Epilepsieanfallserkennung hinaus Anwendung finden. Damit soll das Vorhaben eine technologische Basis für die deutliche Steigerung der Integrität, Verfügbarkeit und Verlässlichkeit von KI-basierten Medizingeräten schaffen.
Prof. Dr. Elena Demidova
Data Science and Intelligent Systems Group (DSIS)
Universität Bonn
Tel. 0228/7369560
E-Mail: elena.demidova@cs.uni-bonn.de
Prof. Dr. Michael Meier
IT-Security
Universität Bonn
Fraunhofer FKIE
Tel. 0228/7354249
E-Mail: mm@cs.uni-bonn.de
Prof. Dr. Björn Krüger
Klinik und Poliklinik für Epileptologie
Universitätsklinikums Bonn
Tel. 0228/28751704
E-Mail: bkrueger@uni-bonn.de
Prof. Dr. Franziska Boehm
Bereichsleiterin Immaterialgüterrechte
FIZ Karlsruhe – Leibniz-Institut für Informationsinfrastruktur GmbH
Karlsruher Institut für Technologie
Tel. 07247/808401
E-Mail: franziska.boehm@fiz-karlsruhe.de
Merkmale dieser Pressemitteilung:
Journalisten, jedermann
Informationstechnik, Medizin
überregional
Forschungsprojekte, Kooperationen
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
