Künstliche Intelligenz hält immer mehr Einzug im Gesundheitswesen. Sie wirft aber auch viele Fragen auf, wie sie optimal und sicher eingesetzt werden kann. Eine neue Studie aus Österreich gibt wichtige Anhaltspunkte.
Was kann Künstliche Intelligenz (KI) im Gesundheitswesen wirklich, was muss bei der Implementierung beachtet werden und wie kann der Nutzen einer bestimmten KI bewertet werden? Das Austrian Institute for Health Technologie Assessment (AIHTA) hat dazu 30 HTA- Analysen untersucht und einen Guide mit Checkliste für die Nutzenbewertung verschiedener KI-Technologien und den Einsatz im Krankenhaus entwickelt. Das Fazit: Insbesondere im Krankenhaus wird KI derzeit bei spezifischen Aufgaben wie der bildbasierten Diagnostik oder der Analyse von Gesundheitsdaten unterstützend eingesetzt. KI kann aber nicht nur Arbeit abnehmen und Personal entlasten, es sind auch viele Dinge zu beachten, wodurch KI letztlich auch laufend Arbeit macht und deshalb den Einsatz adaptierter Bewertungsmethoden erfordert, schreibt das AIHTA-Forschungsteam. Einerseits gebe es die Regulatorik durch den Artificial Intelligence Act der EU und die Medizinprodukteverordnung, die zu beachten sind. Andererseits müsse man mit zunehmender Verbreitung KI-gestützter digitaler Gesundheitstechnologien (DHTs) vor deren Einsatz auch einige Fragen klären.
Unterschiedliche Einsatzbereiche von KI
KI werde laut der untersuchten Studien vor allem in der Diagnostik und im Screening – vor allem in Radiologie zur Bildauswertung – angewendet. Da erkenne KI Muster. Dazu kommt der Einsatz im organisatorischen Bereich, etwa in administrativen Systemen. Die Erwartungen an KI-Gesundheitstechnologien umfassen etwa eine gesteigerte Effizienz durch reduzierte Arbeitsbelastung und Wartezeiten, eine verbesserte diagnostische Genauigkeit, optimierte Arbeitsabläufe und Prozesse sowie verbesserte Patient:innenergebnisse und Zugang zur Versorgung.
Zur Orientierung gibt es internationale Bewertungsmodelle. Das AIHTA hat fünf identifiziert, wovon eines das „Evidence Standards Framework“ (ESF) des britischen National Institute for Health and Care Excellence (NICE) darstellt. Dieses unterscheidet drei Kategorien: Technologien ohne direkten Patient:innenkontakt und ohne mögliche gesundheitliche Schäden (z. B. administrative Systeme); Technologien mit Patient:innenkontakt aber geringem Schadenspotenzial (z. B. Gesundheitsinformation, Dokumentation von Symptomen, einfache Monitoringfunktionen) sowie Technologien zur Diagnose und Behandlung von Erkrankungen oder zur aktiven Überwachung von Gesundheitsparametern, die einen direkten Einfluss auf Patient:innenentscheidungen haben und damit ein erhöhtes Schadenspotenzial aufweisen. Je größer die Auswirkungen einer digitalen Gesundheitstechnologie, desto strenger sind die Anforderungen an die Nachweise ihrer Wirksamkeit und desto schärfer muss diese geprüft werden.
KI macht auch laufend Arbeit
Wichtig sei zudem überall zu beachten, dass man spezifische Aspekte beachten muss, weil sich etwa Algorithmen laufend ändern können und die Entscheidungen letztlich immer beim Menschen liegen sollte. Dazu sei es wichtig, die Methoden der evidenzbasierten Medizin während des gesamten Produktlebenszyklus anzuwenden. „Da sich KI immer weiter verändert, fallen auch laufende Supportkosten an, weil die Systeme ständig evaluiert werden müssen“, erklärt die erklärt die Erstautorin des Berichts und wissenschaftliche Mitarbeiterin des AIHTA Michaela Riegelnegg. Auch das Personal müsse geschult und die vorhandene Infrastruktur wie etwa KI-kompatible Hardware müsse im gesamten Krankenhaus gegeben sein.
Eine erfolgreiche Integration von KI-Gesundheitstechnologien hängt maßgeblich von der vorhandenen digitalen Infrastruktur ab. „Die KI muss zudem zur bestehenden Dateninfrastruktur passen“, gibt Gregor Götz, Projektleiter beim AIHTA, zu bedenken. Viele derzeit in Österreich verwendete digitale Gesundheitstechnologien arbeiten als isolierte Systeme, wobei Daten auf einzelne Krankenhäuser beschränkt bleiben. Eine ausgereifte digitale Infrastruktur mit hoher Interoperabilität ist oft Voraussetzung dafür, dass KI- Gesundheitstechnologien wie vorgesehen funktionieren können. Das sei gerade auch im Hinblick auf das Datenrisikomanagement und die Sicherheit wichtig. Krankenhäuser müssten sich überlegen, wie sie vorgehen, damit sie die Datenqualität kontinuierlich überwachen.
Götz: „KI-Algorithmen können sich durch Updates oder neue Trainingsdaten in ihrer Leistung verändern. Wenn sich die Leistung des Systems signifikant ändert oder neue Funktionen hinzukommen, die den ursprünglichen Verwendungszweck modifizieren, kann eine Neubewertung und unter Umständen auch eine Rezertifizierung als Medizinprodukt erforderlich sein.“
KI bietet Potenziale. Braucht aber auch Ressourcen
Zu Beginn müsse man sich deshalb fragen, für welchen Zweck und welchen Nutzen man KI überhaupt einsetzen wolle. „Welche konkreten Gesundheitsprozesse werden davon betroffen sein? Wer sind die vorgesehenen Benutzer:innen? Gibt es Standardmethoden, die etabliert sind?“, stellt Riegelnegg wichtige Überlegungen in den Raum. Zu bedenken seien neben Sicherheitsfragen, technische, ethische, organisatorische und ökonomische Aspekte. Zu beachten seien auch die Daten, mit denen die KI trainiert wurde. Da könnten algorithmische Verzerrungen (Bias) enthalten sein, durch die nicht alle Bevölkerungsgruppen ausreichend abgebildet sind.
Für österreichische Krankenhäuser empfehlen die HTA-Fachleute, Standardmethoden, beispielsweise das EUnetHTA Core Model, als Ausgangspunkt zu nutzen und dieses mit bestehenden Frameworks für digitale Gesundheitstechnologien und mit KI-spezifischen Komponenten aus Checklisten zu ergänzen. Besonderes Augenmerk sollte dabei auf die kontinuierliche Überwachung der Leistung über den gesamten Lebenszyklus gelegt werden. Aufgrund der starken Abhängigkeit von KI-Gesundheitstechnologien von der digitalen Infrastruktur sei es wichtig, diese ganz generell zu verbessern. Götz: „All diese Fragen und Herausforderungen bedeuten aber nicht, dass man nicht auf den Zug aufspringen soll. Es muss nur gut bedacht und geplant werden.“
AIHTA
Michaela Riegelnegg, MA
Gregor Goetz, MSSc, MPH
Tel.: +43(0)1-2368119-0
E-Mail: office@aihta.at
HTA Austria - Austrian Institute for Health Technology Assessment GmbH Josefstädterstraße 39
1080 Wien
Tel.: +43(0)1-2368119-0
Fax: +43(0)1-2368119-99
E-Mail: office@aihta.at aihta.at
Riegelnegg, M., Giess, D. und Goetz, G. (2024): Künstliche Intelligenz in der Gesundheitsversorgung mit Schwerpunkt auf Krankenhäusern: Methodische Überlegungen für Health Technology Assessment. Ein Scoping Review. HTA-Projektbericht 164. https://eprints.aihta.at/1546/
Merkmale dieser Pressemitteilung:
Journalisten
Ernährung / Gesundheit / Pflege, Medizin
überregional
Forschungsergebnisse
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).