idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Wie können Forschende Künstliche Intelligenz (KI) sinnvoll und verantwortungsbewusst nutzen, wenn sie die weltweite Studienlage zu einer bestimmten Fragestellung in einer Evidenzsynthese zusammenfassen? Zu dieser Frage hat die Cochrane Collaboration gemeinsam mit drei anderen großen Organisationen jetzt erstmals ein gemeinsames Positionspapier veröffentlicht. Erarbeitet haben das Papier neben Cochrane weitere führende internationale Forschungsnetzwerke, die Evidenzsynthesen zu sozialen Fragen sowie Gesundheits- und Umweltthemen erarbeiten: die Campbell Collaboration, JBI und die Collaboration for Environmental Evidence.
„Unser gemeinsames Positionspapier und die Empfehlungen darin sind ein entscheidender Schritt bei der Erstellung von Evidenzsynthesen im KI-Zeitalter. Denn es hilft uns, die Integrität der Forschung zu wahren“, so Prof. Dr. med. Jörg Meerpohl, wissenschaftlicher Direktor von Cochrane Deutschland. „Das Papier macht es möglich, dass wir die Vorteile von KI nutzen – und sorgt zugleich dafür, dass wir mit den Herausforderungen im Zusammenhang mit KI angemessen umgehen.“ Einerseits könne der Einsatz von KI nämlich helfen, dass Evidenzsynthesen schneller und günstiger fertiggestellt werden als bisher, so Meerpohl. „Daher ist es völlig verständlich, dass viele Autor*innen KI nutzen möchten. Aber es gibt dabei eben auch Risiken: etwa, dass ein missbräuchlicher KI-Einsatz methodische Standards untergräbt. Die Handlungsempfehlungen in unserem KI-Positionspapier helfen uns sicherzustellen, dass beispielsweise die Evidenz aus Cochrane Reviews auch in Zukunft genauso zuverlässig und vertrauenswürdig ist wie bisher.“
Das Papier legt in seinen Empfehlungen ein Grundprinzip klar fest: Die Autor*innen von Evidenzsynthesen tragen die volle Verantwortung für Inhalt, Methodik und Ergebnisse ihrer Synthese – einschließlich der Entscheidung, ob und wie KI eingesetzt wird. „Das Positionspapier hält beispielsweise fest: Bevor man KI-Lösungen verwendet, muss man das entsprechende Tool kritisch prüfen und sich zum Beispiel fragen: Was leistet es? Wo stößt es an Grenzen? Lässt es sich bei meiner konkreten Forschung überhaupt sinnvoll anwenden?“, erläutert Dr. Angelika Eisele-Metzger, Mitautorin des Papiers und wissenschaftliche Mitarbeiterin bei Cochrane Deutschland u.a. mit dem Schwerpunkt „Künstliche Intelligenz“.
Zudem sieht das Papier vor, dass sämtliche automatisierten Schritte von Fachleuten überwacht und – falls nötig – korrigiert werden müssen. Auch soll jeder Einsatz von KI transparent und umfassend dokumentiert werden – und es soll dargelegt werden, warum die Verwendung von KI gerechtfertigt ist. „Die Anwendung von KI darf die wissenschaftliche Integrität und die Qualität und Vertrauenswürdigkeit der Ergebnisse einer Evidenzsynthese nicht gefährden“, fasst Eisele-Metzger zusammen. „Mit diesem Positionspapier wird klar: Ihr Einsatz für Evidenzsynthesen ist grundsätzlich möglich, aber es gibt dabei eben einiges zu beachten.“
Die vier Organisationen weisen in ihrem gemeinsamen Papier auch auf die Verantwortung der Entwickler von KI-Tools hin: Diese müssten sicherstellen, dass Informationen darüber öffentlich zugänglich sind, wie die jeweiligen Systeme oder Tools funktionieren, wie sie getestet und validiert wurden und welche Stärken und Schwächen sie haben. Das ist notwendig, damit Autor*innen von Evidenzsynthesen fundiert darüber entscheiden können, ob und welche KI-Anwendungen sie einsetzen und wie sie das tun.
Das jetzt veröffentlichte Positionspapier fußt auf den so genannten RAISE-Empfehlungen zum verantwortungsvollen Einsatz von KI in Evidenzsynthesen (RAISE: Responsible use of AI in evidence SynthEsis). Diese Empfehlungen waren von einer gemeinsamen Arbeitsgruppe mit Mitgliedern von Cochrane, Campbell Collaboration, JBI und CEE entwickelt worden.
Über Cochrane Deutschland
Cochrane Deutschland mit Sitz in Freiburg ist Teil der internationalen, gemeinnützigen Organisation Cochrane. Dieses Netzwerk unabhängiger Wissenschaftler*innen erstellt systematische Übersichtsarbeiten zu verschiedensten medizinischen und gesundheitlichen Fragen – die so genannten Cochrane Reviews. Darin fassen die Forschenden die weltweite Studienlage zusammen und bewerten deren Qualität. Ziel ist es, dadurch eine evidenzbasierte, verlässliche Grundlage für medizinische und gesundheitspolitische Entscheidungen zu schaffen. Seit seiner Gründung 1993 hat das weltweite Netzwerk bereits etwa 9500 Cochrane Reviews veröffentlicht.
Weitere Informationen: www.cochrane.de
https://www.cochranelibrary.com/cdsr/doi/10.1002/14651858.ED000178/full "Position statement on artificial intelligence (AI) use in evidence synthesis across Cochrane, the Campbell Collaboration, JBI and the Collaboration for Environmental Evidence 2025" in voller Länge
Criteria of this press release:
Journalists, Scientists and scholars
Medicine, Nutrition / healthcare / nursing
transregional, national
Cooperation agreements, Transfer of Science or Research
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
