idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Forschende rund um Informatik-Professorin Iryna Gurevych der TU Darmstadt und vom Indian Institute of Technology (IIT) Delhi bearbeiten eine zentrale Frage: Wie lassen sich KI-gestützte Werkzeuge im Bereich psychischer Erkrankungen entwickeln, die die Privatsphäre von Patientinnen und Patienten zuverlässig schützen? In einer neuen Studie in „Nature Computational Science“ präsentieren sie eine Roadmap für die Entwicklung von Unterstützungssystemen, die Diagnostik und Therapie verbessern, ohne sensible Informationen preiszugeben. Grundvoraussetzung für den Einsatz von KI im Bereich der psychischen Gesundheit ist dabei der Datenschutz.
Psychische Erkrankungen gehören weltweit zu den häufigsten Ursachen für gesundheitliche Einschränkungen. Sie haben schwerwiegende Folgen für Betroffene, deren Familien sowie für Gesellschaft und Wirtschaft. Bisher sind für die Erkennung psychischer Erkrankungen aufwändige Untersuchungen durch Spezialistinnen und Spezialisten notwendig. Zudem gibt es nicht genügend ausgebildete Therapeutinnen und Therapeuten, um den Bedarf zu de-cken. In frühen Stadien einer psychischen Erkrankung, in denen Interventionen am wirksamsten sind, könnte nun Künstliche Intelligenz die Diagnose und Behandlung deutlich verbessern.
Datenschutz als entscheidende Hürde
KI-Systeme könnten Therapeutinnen und Therapeuten unterstützen, indem sie feine Signale in Sprache, Mimik und Wortwahl ihrer Patientinnen und Patienten analysieren. Das Training dieser Systeme erfordert allerdings hochsensib-le Daten aus realen Therapiesitzungen. Solche Sprach- und Videodaten könnten Rückschlüsse auf die Identität von Patientinnen und Patienten zulassen, und die mit ihnen trainierten Modelle bergen das Risiko, persönliche Informationen unbeabsichtigt zu speichern und offenzulegen.
Forschende am Ubiquitous Knowledge Processing (UKP) Lab am Fachbereich Informatik der TU Darmstadt und am IIT Delhi haben nun in „Nature Compu-tational Science“ Forschungsergebnisse veröffentlicht, die hier einen neuen Weg aufzeigen. Sie beschreiben, wie KI-Systeme im Bereich psychischer Er-krankungen so entworfen werden können, dass sie die vertraulichen Informa-tionen von Patientinnen und Patienten wahren.
Die Forschenden schlagen dafür eine Entwicklungs-Pipeline für datenschutz-bewusste KI-Systeme vor, die auf verschiedenen Lösungsansätzen basiert. Dazu gehören das Entfernen personenbezogener Informationen, die Anonymisierung von Stimmen und Gesichtern, die Erzeugung synthetischer Daten sowie ein datenschutzorientiertes Training von Modellen.
Internationale Zusammenarbeit
Der Erstautor der Studie, Aishik Mandal, ist Teil der NLPsych-Gruppe am UKP Lab, einem Zusammenschluss von Forschenden, die an der Schnittstelle zwischen natürlicher Sprachverarbeitung (NLP) und psychischer Gesundheit arbeiten, um datengestützte Lösungen im Bereich der psychischen Gesundheit sowohl für Hilfesuchende als auch für Hilfeleistende zu entwickeln. Co-Autor:innen sind Professor Tanmoy Chakraborty vom IIT Delhi, der als Gastwissenschaftler am UKP Lab tätig war und durch ein Humboldt-Forschungsstipendium für erfahrene Forschende der Alexander von Humboldt-Stiftung gefördert wurde, sowie die Leiterin des UKP Labs, Professorin Iryna Gurevych.
Die Arbeit wurde unterstützt durch das Bundesministerium für Bildung und Forschung (BMBF) und das Hessische Ministerium für Wissenschaft und Kunst (HMWK) im Rahmen des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE, sowie durch die LOEWE-Spitzenprofessur „Ubiquitous Knowledge Processing“ und das LOEWE-Zentrum für die Erforschung psychischer Gesundheit DYNAMIC.
Professorin Iryna Gurevych
Telefon: +49 6151 16-5290
E-Mail: iryna.gurevych@tu-darmstadt.de
Aishik Mandal, Tanmoy Chakraborty, Iryna Gurevych: „Towards privacy-aware mental health AI models“ in: Nature Computational Science
https://doi.org/10.1038/s43588-025-00875-w
Merkmale dieser Pressemitteilung:
Journalisten, Wissenschaftler
Informationstechnik, Psychologie
überregional
Forschungsergebnisse
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
