idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Forschende des Else Kröner Fresenius Zentrums (EKFZ) für Digitale Gesundheit an der Technischen Universität Dresden (TUD) haben in Zusammenarbeit mit Partnern aus Deutschland, Großbritannien und den USA einen autonomen KI-Agenten entwickelt und getestet, der die klinische Entscheidungsfindung in der Onkologie unterstützen kann. Die Ergebnisse wurden in der Fachzeitschrift Nature Cancer veröffentlicht. Künftig könnten KI-Agenten medizinisches Fachpersonal dabei unterstützen, komplexe medizinische Daten zu analysieren und fundierte, personalisierte Behandlungsentscheidungen für Krebspatientinnen und -patienten zu treffen.
Die klinische Entscheidungsfindung in der Onkologie ist anspruchsvoll und erfordert die Auswertung verschiedenster Datentypen – von der medizinischen Bildgebung und genetischen Informationen bis hin zu Patientenakten und Behandlungsleitlinien. Um die medizinische Praxis wirksam zu unterstützen, müssen KI-Modelle deshalb multimodale Daten verarbeiten können und über Problemlösungsfähigkeiten verfügen, die menschlichen Denkprozessen ähneln.
Für die Entwicklung ihres autonomen KI-Agenten für die Präzisionsmedizin, erweiterten die Forschenden das Sprachmodell GPT-4 um verschiedene digitale Werkzeuge – darunter die Erstellung von Radiologieberichten auf Basis von MRT- und CT-Scans, die medizinische Bildanalyse, die Vorhersage genetischer Veränderungen direkt aus histopathologischen Gewebeschnitten sowie Suchfunktionen auf Plattformen wie PubMed, Google und OncoKB. Um sicherzustellen, dass Entscheidungen auf dem aktuellen medizinischen Wissensstand beruhen, erhielt das Modell Zugriff auf etwa 6800 Dokumente aus offiziellen onkologischen Leitlinien und klinischen Ressourcen.
Autonomer KI-Agent erfolgreich an realitätsnahen, simulierten Patientenfällen getestet
Der KI-Agent wurde anhand von 20 realistischen, simulierten Patientenfällen in einem zweistufigen Verfahren getestet: Zunächst wählte das System geeignete Hilfsmittel (Tools) aus, anschließend recherchierte es relevante medizinische Informationen, um fundierte Schlussfolgerungen zu treffen. Die Ergebnisse wurden von medizinischen Expertinnen und Experten hinsichtlich ihrer Genauigkeit, Vollständigkeit und korrekten Quellenangabe überprüft. Der KI-Agent kam in 91 Prozent der Fälle zu korrekten klinischen Schlussfolgerungen und zitierte in mehr als 75 Prozent der Fälle die relevanten onkologischen Leitlinien korrekt.
Hervorzuheben ist, dass der Einsatz von spezialisierten Werkzeugen und die Verwendung zugrundeliegender medizinischer Fachinformation die Leistung des Modells erheblich verbesserten. Dadurch konnten sogenannte „Halluzinationen“ – also plausibel klingende, aber falsche Aussagen – deutlich reduziert werden. Gerade im sensiblen Bereich der Gesundheitsversorgung ist dieses Ergebnis von großer Bedeutung.
„KI-Tools sollen medizinisches Fachpersonal unterstützen und wertvolle Zeit für die Patientenversorgung schaffen“, sagt Dyke Ferber, Erstautor der Veröffentlichung. „Sie könnten im Alltag helfen, fundierte Entscheidungen zu treffen und Ärztinnen und Ärzte dabei unterstützen, stets über die neuesten Behandlungsempfehlungen informiert zu sein – und dadurch zur optimalen personalisierten Therapie von Krebspatientinnen und -patienten beizutragen.“
Künftige Unterstützung im Klinikalltag möglich
Die Studie zeigt, dass KI-Agenten grundsätzlich in der Lage sind, Onkologinnen und Onkologen im klinischen Alltag zu unterstützen. Trotz der vielversprechenden Ergebnisse weisen die Forschenden auf bestehende Einschränkungen ihrer Studie hin. Das System wurde nur an einer kleinen Anzahl von simulierten Fällen getestet und muss noch weiter validiert werden. Zukünftige Arbeiten sollen sich auf die Integration von Konversationsfähigkeiten mit menschlichem Feedback – sogenannten „Human-in-the-Loop“-Interaktionen – sowie auf datenschutzkonforme Anwendungen auf lokalen Servern konzentrieren.
„Um das Potenzial von KI-Agenten in Zukunft voll auszuschöpfen, wird es entscheidend sein, sie reibungslos und mit minimalen Störungen in den klinischen Alltag zu integrieren“, sagt Prof. Jakob N. Kather, Professor für Clinical Artificial Intelligence am EKFZ für Digitale Gesundheit der TU Dresden und Onkologe am Dresdner Universitätsklinikum Carl Gustav Carus. „Herausforderungen wie die Interoperabilität mit bestehenden Systemen, Datenschutzanforderungen, notwendige Zulassungsverfahren als Medizinprodukte und Fragen der Verantwortlichkeit müssen dafür gelöst werden.“
Langfristig halten es die Forschenden für denkbar, dass KI-Agenten auch in anderen medizinischen Bereichen eingesetzt werden könnten – vorausgesetzt, sie werden mit den jeweils passenden Tools und Daten ausgestattet. „Für eine erfolgreiche Implementierung medizinischer KI-Agenten müssen die Medizinerinnen und Mediziner darin geschult werden, effektiv mit diesen Systemen zusammenzuarbeiten – bei gleichzeitigem Erhalt der vollständigen Entscheidungsverantwortung“, ergänzt Prof. Kather. „Diese Agenten sollen das Klinikpersonal unterstützen, es aber keinesfalls ersetzen.“
Insgesamt unterstreicht die Studie das große Potenzial von Sprachmodellen in Kombination mit Präzisionsonkologie- und Suchwerkzeugen und schafft damit eine solide Grundlage für den zukünftigen Einsatz von KI-gestützter, personalisierter Unterstützungssysteme in der klinischen Praxis.
Publikation
Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit
Das EKFZ für Digitale Gesundheit an der TU Dresden und dem Universitätsklinikum Carl Gustav Carus Dresden wurde im September 2019 gegründet. Es wird mit einer Fördersumme von 40 Millionen Euro für eine Laufzeit von zehn Jahren von der Else Kröner-Fresenius-Stiftung gefördert. Das Zentrum konzentriert seine Forschungsaktivitäten auf innovative, medizinische und digitale Technologien an der direkten Schnittstelle zu den Patientinnen und Patienten. Das Ziel ist dabei, das Potenzial der Digitalisierung in der Medizin voll auszuschöpfen, um die Gesundheitsversorgung, die medizinische Forschung und die klinische Praxis deutlich und nachhaltig zu verbessern.
Kontakt:
Anja Stübner und Dr. Viktoria Bosak
Presse- und Öffentlichkeitsarbeit
Tel.: +49 351 – 458 11379
E-Mail: news.ekfz@tu-dresden.de
Dyke Ferber, Omar S. M. El Nahhas, Georg Wölflein, Isabella C. Wiest, Jan Clusmann, Marie-Elisabeth Leßmann, Sebastian Foersch, Jacqueline Lammert, Maximilian Tschochohei, Dirk Jäger, Manuel Salto-Tellez, Nikolaus Schultz, Daniel Truhn, Jakob Nikolas Kather: Development and validation of an autonomous artificial intelligence agent for clinical decision-making in oncology, Nature Cancer, 2025.
Link: https://www.nature.com/articles/s43018-025-00991-6
DOI: https://doi.org/10.1038/s43018-025-00991-6
TUD-Forschende testen autonomen KI-Agenten erfolgreich an realitätsnahen, simulierten Patientenfälle ...
iStock / SurfUpVector
iStock / SurfUpVector
Criteria of this press release:
Journalists, Scientists and scholars
Information technology, Medicine
transregional, national
Research results, Scientific Publications
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
