idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Forschende rund um Informatik-Professorin Iryna Gurevych der TU Darmstadt und vom Indian Institute of Technology (IIT) Delhi bearbeiten eine zentrale Frage: Wie lassen sich KI-gestützte Werkzeuge im Bereich psychischer Erkrankungen entwickeln, die die Privatsphäre von Patientinnen und Patienten zuverlässig schützen? In einer neuen Studie in „Nature Computational Science“ präsentieren sie eine Roadmap für die Entwicklung von Unterstützungssystemen, die Diagnostik und Therapie verbessern, ohne sensible Informationen preiszugeben. Grundvoraussetzung für den Einsatz von KI im Bereich der psychischen Gesundheit ist dabei der Datenschutz.
Psychische Erkrankungen gehören weltweit zu den häufigsten Ursachen für gesundheitliche Einschränkungen. Sie haben schwerwiegende Folgen für Betroffene, deren Familien sowie für Gesellschaft und Wirtschaft. Bisher sind für die Erkennung psychischer Erkrankungen aufwändige Untersuchungen durch Spezialistinnen und Spezialisten notwendig. Zudem gibt es nicht genügend ausgebildete Therapeutinnen und Therapeuten, um den Bedarf zu de-cken. In frühen Stadien einer psychischen Erkrankung, in denen Interventionen am wirksamsten sind, könnte nun Künstliche Intelligenz die Diagnose und Behandlung deutlich verbessern.
Datenschutz als entscheidende Hürde
KI-Systeme könnten Therapeutinnen und Therapeuten unterstützen, indem sie feine Signale in Sprache, Mimik und Wortwahl ihrer Patientinnen und Patienten analysieren. Das Training dieser Systeme erfordert allerdings hochsensib-le Daten aus realen Therapiesitzungen. Solche Sprach- und Videodaten könnten Rückschlüsse auf die Identität von Patientinnen und Patienten zulassen, und die mit ihnen trainierten Modelle bergen das Risiko, persönliche Informationen unbeabsichtigt zu speichern und offenzulegen.
Forschende am Ubiquitous Knowledge Processing (UKP) Lab am Fachbereich Informatik der TU Darmstadt und am IIT Delhi haben nun in „Nature Compu-tational Science“ Forschungsergebnisse veröffentlicht, die hier einen neuen Weg aufzeigen. Sie beschreiben, wie KI-Systeme im Bereich psychischer Er-krankungen so entworfen werden können, dass sie die vertraulichen Informa-tionen von Patientinnen und Patienten wahren.
Die Forschenden schlagen dafür eine Entwicklungs-Pipeline für datenschutz-bewusste KI-Systeme vor, die auf verschiedenen Lösungsansätzen basiert. Dazu gehören das Entfernen personenbezogener Informationen, die Anonymisierung von Stimmen und Gesichtern, die Erzeugung synthetischer Daten sowie ein datenschutzorientiertes Training von Modellen.
Internationale Zusammenarbeit
Der Erstautor der Studie, Aishik Mandal, ist Teil der NLPsych-Gruppe am UKP Lab, einem Zusammenschluss von Forschenden, die an der Schnittstelle zwischen natürlicher Sprachverarbeitung (NLP) und psychischer Gesundheit arbeiten, um datengestützte Lösungen im Bereich der psychischen Gesundheit sowohl für Hilfesuchende als auch für Hilfeleistende zu entwickeln. Co-Autor:innen sind Professor Tanmoy Chakraborty vom IIT Delhi, der als Gastwissenschaftler am UKP Lab tätig war und durch ein Humboldt-Forschungsstipendium für erfahrene Forschende der Alexander von Humboldt-Stiftung gefördert wurde, sowie die Leiterin des UKP Labs, Professorin Iryna Gurevych.
Die Arbeit wurde unterstützt durch das Bundesministerium für Bildung und Forschung (BMBF) und das Hessische Ministerium für Wissenschaft und Kunst (HMWK) im Rahmen des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE, sowie durch die LOEWE-Spitzenprofessur „Ubiquitous Knowledge Processing“ und das LOEWE-Zentrum für die Erforschung psychischer Gesundheit DYNAMIC.
Professorin Iryna Gurevych
Telefon: +49 6151 16-5290
E-Mail: iryna.gurevych@tu-darmstadt.de
Aishik Mandal, Tanmoy Chakraborty, Iryna Gurevych: „Towards privacy-aware mental health AI models“ in: Nature Computational Science
https://doi.org/10.1038/s43588-025-00875-w
Criteria of this press release:
Journalists, Scientists and scholars
Information technology, Psychology
transregional, national
Research results
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
