idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Forschende des Else Kröner Fresenius Zentrums (EKFZ) für Digitale Gesundheit an der Technischen Universität Dresden (TUD) haben in Zusammenarbeit mit Partnern aus Deutschland, Großbritannien und den USA einen autonomen KI-Agenten entwickelt und getestet, der die klinische Entscheidungsfindung in der Onkologie unterstützen kann. Die Ergebnisse wurden in der Fachzeitschrift Nature Cancer veröffentlicht. Künftig könnten KI-Agenten medizinisches Fachpersonal dabei unterstützen, komplexe medizinische Daten zu analysieren und fundierte, personalisierte Behandlungsentscheidungen für Krebspatientinnen und -patienten zu treffen.
Die klinische Entscheidungsfindung in der Onkologie ist anspruchsvoll und erfordert die Auswertung verschiedenster Datentypen – von der medizinischen Bildgebung und genetischen Informationen bis hin zu Patientenakten und Behandlungsleitlinien. Um die medizinische Praxis wirksam zu unterstützen, müssen KI-Modelle deshalb multimodale Daten verarbeiten können und über Problemlösungsfähigkeiten verfügen, die menschlichen Denkprozessen ähneln.
Für die Entwicklung ihres autonomen KI-Agenten für die Präzisionsmedizin, erweiterten die Forschenden das Sprachmodell GPT-4 um verschiedene digitale Werkzeuge – darunter die Erstellung von Radiologieberichten auf Basis von MRT- und CT-Scans, die medizinische Bildanalyse, die Vorhersage genetischer Veränderungen direkt aus histopathologischen Gewebeschnitten sowie Suchfunktionen auf Plattformen wie PubMed, Google und OncoKB. Um sicherzustellen, dass Entscheidungen auf dem aktuellen medizinischen Wissensstand beruhen, erhielt das Modell Zugriff auf etwa 6800 Dokumente aus offiziellen onkologischen Leitlinien und klinischen Ressourcen.
Autonomer KI-Agent erfolgreich an realitätsnahen, simulierten Patientenfällen getestet
Der KI-Agent wurde anhand von 20 realistischen, simulierten Patientenfällen in einem zweistufigen Verfahren getestet: Zunächst wählte das System geeignete Hilfsmittel (Tools) aus, anschließend recherchierte es relevante medizinische Informationen, um fundierte Schlussfolgerungen zu treffen. Die Ergebnisse wurden von medizinischen Expertinnen und Experten hinsichtlich ihrer Genauigkeit, Vollständigkeit und korrekten Quellenangabe überprüft. Der KI-Agent kam in 91 Prozent der Fälle zu korrekten klinischen Schlussfolgerungen und zitierte in mehr als 75 Prozent der Fälle die relevanten onkologischen Leitlinien korrekt.
Hervorzuheben ist, dass der Einsatz von spezialisierten Werkzeugen und die Verwendung zugrundeliegender medizinischer Fachinformation die Leistung des Modells erheblich verbesserten. Dadurch konnten sogenannte „Halluzinationen“ – also plausibel klingende, aber falsche Aussagen – deutlich reduziert werden. Gerade im sensiblen Bereich der Gesundheitsversorgung ist dieses Ergebnis von großer Bedeutung.
„KI-Tools sollen medizinisches Fachpersonal unterstützen und wertvolle Zeit für die Patientenversorgung schaffen“, sagt Dyke Ferber, Erstautor der Veröffentlichung. „Sie könnten im Alltag helfen, fundierte Entscheidungen zu treffen und Ärztinnen und Ärzte dabei unterstützen, stets über die neuesten Behandlungsempfehlungen informiert zu sein – und dadurch zur optimalen personalisierten Therapie von Krebspatientinnen und -patienten beizutragen.“
Künftige Unterstützung im Klinikalltag möglich
Die Studie zeigt, dass KI-Agenten grundsätzlich in der Lage sind, Onkologinnen und Onkologen im klinischen Alltag zu unterstützen. Trotz der vielversprechenden Ergebnisse weisen die Forschenden auf bestehende Einschränkungen ihrer Studie hin. Das System wurde nur an einer kleinen Anzahl von simulierten Fällen getestet und muss noch weiter validiert werden. Zukünftige Arbeiten sollen sich auf die Integration von Konversationsfähigkeiten mit menschlichem Feedback – sogenannten „Human-in-the-Loop“-Interaktionen – sowie auf datenschutzkonforme Anwendungen auf lokalen Servern konzentrieren.
„Um das Potenzial von KI-Agenten in Zukunft voll auszuschöpfen, wird es entscheidend sein, sie reibungslos und mit minimalen Störungen in den klinischen Alltag zu integrieren“, sagt Prof. Jakob N. Kather, Professor für Clinical Artificial Intelligence am EKFZ für Digitale Gesundheit der TU Dresden und Onkologe am Dresdner Universitätsklinikum Carl Gustav Carus. „Herausforderungen wie die Interoperabilität mit bestehenden Systemen, Datenschutzanforderungen, notwendige Zulassungsverfahren als Medizinprodukte und Fragen der Verantwortlichkeit müssen dafür gelöst werden.“
Langfristig halten es die Forschenden für denkbar, dass KI-Agenten auch in anderen medizinischen Bereichen eingesetzt werden könnten – vorausgesetzt, sie werden mit den jeweils passenden Tools und Daten ausgestattet. „Für eine erfolgreiche Implementierung medizinischer KI-Agenten müssen die Medizinerinnen und Mediziner darin geschult werden, effektiv mit diesen Systemen zusammenzuarbeiten – bei gleichzeitigem Erhalt der vollständigen Entscheidungsverantwortung“, ergänzt Prof. Kather. „Diese Agenten sollen das Klinikpersonal unterstützen, es aber keinesfalls ersetzen.“
Insgesamt unterstreicht die Studie das große Potenzial von Sprachmodellen in Kombination mit Präzisionsonkologie- und Suchwerkzeugen und schafft damit eine solide Grundlage für den zukünftigen Einsatz von KI-gestützter, personalisierter Unterstützungssysteme in der klinischen Praxis.
Publikation
Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit
Das EKFZ für Digitale Gesundheit an der TU Dresden und dem Universitätsklinikum Carl Gustav Carus Dresden wurde im September 2019 gegründet. Es wird mit einer Fördersumme von 40 Millionen Euro für eine Laufzeit von zehn Jahren von der Else Kröner-Fresenius-Stiftung gefördert. Das Zentrum konzentriert seine Forschungsaktivitäten auf innovative, medizinische und digitale Technologien an der direkten Schnittstelle zu den Patientinnen und Patienten. Das Ziel ist dabei, das Potenzial der Digitalisierung in der Medizin voll auszuschöpfen, um die Gesundheitsversorgung, die medizinische Forschung und die klinische Praxis deutlich und nachhaltig zu verbessern.
Kontakt:
Anja Stübner und Dr. Viktoria Bosak
Presse- und Öffentlichkeitsarbeit
Tel.: +49 351 – 458 11379
E-Mail: news.ekfz@tu-dresden.de
Dyke Ferber, Omar S. M. El Nahhas, Georg Wölflein, Isabella C. Wiest, Jan Clusmann, Marie-Elisabeth Leßmann, Sebastian Foersch, Jacqueline Lammert, Maximilian Tschochohei, Dirk Jäger, Manuel Salto-Tellez, Nikolaus Schultz, Daniel Truhn, Jakob Nikolas Kather: Development and validation of an autonomous artificial intelligence agent for clinical decision-making in oncology, Nature Cancer, 2025.
Link: https://www.nature.com/articles/s43018-025-00991-6
DOI: https://doi.org/10.1038/s43018-025-00991-6
TUD-Forschende testen autonomen KI-Agenten erfolgreich an realitätsnahen, simulierten Patientenfälle ...
iStock / SurfUpVector
iStock / SurfUpVector
Merkmale dieser Pressemitteilung:
Journalisten, Wissenschaftler
Informationstechnik, Medizin
überregional
Forschungsergebnisse, Wissenschaftliche Publikationen
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
