idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Das neue europäische Gesetz zur Künstlichen Intelligenz (EU AI Act) tritt ab 2025 schrittweise in Kraft und bringt strengere Regeln mit sich, gerade für Medizin-Apps mit KI-Kern. Während einfache Chatbots meist nur als KI-Systeme mit begrenztem Risiko angesehen werden und daher weniger strenge Auflagen erfüllen müssen, gelten für KI-Systeme in der Diagnostik die höchsten Anforderungen. Transparenz, Datenqualität und menschliche Aufsicht sind Pflicht. Was es dabei zu beachten gibt, erläutern diverse Vorträge während der 33. Jahrestagung der Deutschen Gesellschaft für Schlafforschung und Schlafmedizin (DGSM), die vom 27.-29. November 2025 in Hannover stattfinden wird.
„Apps auf Rezept“ – was vor wenigen Jahren noch Zukunftsmusik war, ist mittlerweile im Alltag angekommen. Seit 2020 können ÄrztInnen in Deutschland digitale Gesundheitsanwendungen (DiGAs) verschreiben. Sie helfen Menschen mit Tinnitus, Diabetes oder Schlafstörungen und haben den Gesundheitsmarkt revolutioniert. Mit dem DiGA-Fast-Track hat Deutschland einen Meilenstein gesetzt. Parallel dazu verändert nun der EU AI Act in Europa die Spielregeln für Künstliche Intelligenz. Das Gesetz, das 2024 verabschiedet wurde und ab 2025 schrittweise in Kraft tritt, verfolgt einen risikobasierten Ansatz. Während verbotene KI-Anwendungen wie Social Scoring ausgeschlossen werden, gelten für Hochrisiko-KI, unter die auch medizinische Diagnosesysteme fallen, strenge Anforderungen. Dazu zählen Transparenz, Datenqualität, menschliche Aufsicht und technische Robustheit. Doch was bedeutet der EU AI Act für DiGas und Co?
„Der DiGA-Fast Track sorgt für den Versorgungseffekt, der EU AI Act für ein stabiles Fundament vertrauenswürdiger KI“, fasst Dr. Sarah Dietz-Terjung vom Zentrum für Interdisziplinäre Telemedizin und TeleCare der Universitätsmedizin Essen zusammen. Konkret bedeutet das: Eine App, die mithilfe von Algorithmen Krankheitsverschlechterungen vorhersagt, muss künftig nicht nur ihren Nutzen für PatientInnen belegen, sondern muss künftig zeigen, dass ihre KI robust, nachvollziehbar und frei von systematischen Verzerrungen funktioniert. Das klingt nach viel Bürokratie, ist aber auch eine große Chance, findet Sarah Dietz-Terjung: „Denn mit klaren Regeln wächst das Vertrauen in digitale Therapien. Dies eröffnet Chancen und Herausforderungen zugleich. Einerseits stärkt es das Vertrauen der Anwender in digitale Medizin, erhöht die PatientInnen-Sicherheit und fördert europäische Standards. Andererseits sind die regulatorischen Hürden hoch, insbesondere für kleinere Anbieter. Entscheidend wird sein, wie gut nationale und europäische Vorgaben harmonisiert werden können.“
Ihr Fazit: Der digitale Wandel in der Medizin gelingt nur, wenn Sicherheit, Nutzen und Innovation zusammengedacht werden. Der DiGA-Fast-Track treibt die Versorgung voran, der EU AI Act sorgt dafür, dass Künstliche Intelligenz dabei auf einem verlässlichen Fundament steht. Damit kann eine Medizin entstehen, die prädiktiv, präventiv, personalisiert und partizipativ ist, ganz im Sinne einer modernen P4-Medizin.
Eine gründliche Analyse des Schlafes im Labor, die sogenannte Polysomnographie, ist für die Erkennung von unterschiedlichen Schlaferkrankungen die Grundlage. Seit einigen Jahren schon, werden dazu Patientendaten maschinell ausgewertet, jedoch immer zusätzlich von einem Schlafmediziner kontrolliert. Was ist, wenn in Zukunft auch künstliche Intelligenz zum Einsatz kommt? Wie behält Mensch hier den Überblick? Also woher wissen wir, dass die KI richtig trainiert wurde, und wer kann die Lösungswege des maschinellen Handelns nachvollziehen? Damit beschäftigt sich Philip Zaschke, wissenschaftlicher Mitarbeiter am Institut für medizinische Informatik der Universitätsmedizin Göttingen. „Die Prüfbarkeit muss gewährleistet sein und Voraussetzung dafür ist es, dass man weiß, welche Prozesse dahinter ablaufen. Gerade wenn diese in einem Medizinprodukt ablaufen, dass für die Versorgung eingesetzt wird. Das darf keine Black Box sein, sondern muss in jedem Schritt erklärbar und nachvollziehbar sein“, sagt er. Das Potential von KI, entscheidungsunterstützende Aufgaben zu übernehmen, sei unbestritten, zum Beispiel beim Finden der geeigneten Therapie bei einer obstruktiven Schlafapnoe. Das Problem sei, so Zaschke, dass, wenn die KI-Systeme größer werden – und das werden sie ständig –, verliere man den Überblick, was genau in den Millionen von Parametern passiert. In seinem Vortrag auf der DGSM-Jahrestagung informiert Philip Zaschke darüber, wie es gelingen kann, die „Black Box“ — zumindest teilweise — zu öffnen und die KI bzw. ihre Entscheidungen nachzuvollziehen. Dies ist ein Teil, um die Prüfbarkeit zu gewährleisten, was entscheidend ist für die Zulassung von Medizinprodukten. Sein einfaches Fazit ist: „Die KI kann dem Menschen ganz klar helfen, wenn sie keine Fehler macht.“ Das zu gewährleisten ist u.a. der Job von Zaschke, der sich in der Grundlagenforschung ansiedelt. Um zum Beispiel schnarchenden Menschen und ihren behandelnden Ärztinnen und Ärzten in Zukunft eine sichere und schnelle Diagnose darüber geben zu können, ob eine Schlafapnoe vorliegt, die durch KI-Auswertung stattgefunden hat.
Wir erklären Ihnen die Nacht!
Die Geschehnisse in der Nacht und vielleicht der Schlaf selbst sind in vielerlei Hinsicht unerklärlich. Die Schlafforschung und Schlafmedizin bringt immer mehr Licht ins Dunkel. Daher wissen wir inzwischen, wie wichtig dieser Abschnitt in unserem Leben für die menschliche Gesundheit ist. Doch leider schlafen mehr Menschen eher schlecht als recht. Schlafstörungen müssen behandelt werden, das ist keine Frage. Doch bevor sich manche Schlafstörung verfestig, könnte man präventiv dagegenhalten. Dazu ist es nötig, über den Schlaf gut informiert zu sein. Die Deutsche Gesellschaft für Schlafforschung und Schlafmedizin (DGSM) hat es sich zur Aufgabe gemacht, die Nacht besser verstehen zu lernen, dieses Wissen öffentlich weiterzugeben und dadurch den Schlaf mehr wertzuschätzen. Auch die Jahrestagung der DGSM trägt dazu bei. Erfahren Sie mehr über die Inhalte des wissenschaftlichen Programms und wir helfen Ihnen gern weiter, wenn Sie Interview-PartnerInnen suchen!
Pressekontakt für Rückfragen/Interviewanfragen:
Romy Held
Presse- und Öffentlichkeitsarbeit
Tel.: 0173/5733326
E-Mail: romy.held@conventus.de
https://dgsm-kongress.de/allgemeine-informationen/presse
https://dgsm-kongress.de/
https://dgsm.de/
Criteria of this press release:
Journalists
Medicine, Nutrition / healthcare / nursing, Psychology, Social studies
transregional, national
Miscellaneous scientific news/publications, Scientific conferences
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
