idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Künstliche Intelligenz (KI) erzeugt Texte, Videos und Bilder, die sich kaum noch von denen von Menschen unterscheiden lassen – mit der Folge, dass wir oft nicht mehr wissen, was echt ist. Auch Forschende lassen sich immer häufiger von KI unterstützen. Eine internationale Arbeitsgruppe hat nun Grundsätze für die Nutzung von KI in der Forschung erstellt, die das Vertrauen in Wissenschaft sichern sollen.
Reproduzierbarkeit, Transparenz, Verantwortung – davon lebt die Wissenschaft. Vertrauen in die Forschung entsteht insbesondere dadurch, dass Ergebnisse unabhängig davon, an welchem Institut sie entstanden sind, gültig sind. Außerdem müssen Daten, die einer Studie zugrunde liegen, veröffentlicht werden und Forschende die Verantwortung für ihre Publikationen übernehmen.
Was aber, wenn Künstliche Intelligenz mitforscht? Längst nutzen Fachleute KI-Werkzeuge, um neue Moleküle zu entwerfen, komplexe Daten auszuwerten, ja sogar um Forschungsfragen zu generieren oder etwa eine mathematische Vermutung zu beweisen. KI verändert die Forschung massiv – und deswegen diskutiert die Fachwelt, wie Ergebnisse trotzdem vertrauenswürdig bleiben.
Forderungen im Fachmagazin PNAS veröffentlicht
Fünf Prinzipien sollen die menschliche Verantwortung in der Forschung weiterhin sichern, wie jetzt eine interdisziplinäre Arbeitsgruppe mit Mitgliedern aus Politik, Unternehmen und Wissenschaft in der neuesten Ausgabe der Fachzeitschrift Proceedings of the National Academies of Sciences (PNAS) fordert. An dem Verhaltenskodex hat auch Urs Gasser, Professor für Public Policy, Governance and Innovative Technology an der TUM, mitgewirkt.
Die Forderungen in Kürze:
• Wissenschaftlerinnen und Wissenschaftler sollen offenlegen, welche Tools und Algorithmen sie benutzt haben und die Beiträge von Maschine beziehungsweise Mensch klar kennzeichnen.
• Die Forschenden tragen weiterhin die Verantwortung für die Genauigkeit der Daten und für die Schlussfolgerungen, die sie aus diesen ziehen, selbst wenn sie dafür KI-Analysetools verwendet haben.
• KI-generierte Daten müssen kenntlich gemacht werden, damit sie nicht mit Daten und Beobachtungen aus der realen Welt verwechselt werden können.
• Die Fachleute müssen sicherstellen, dass ihre Ergebnisse wissenschaftlich fundiert sind und keinen Schaden anrichten. Das Risiko, dass KI etwa durch die verwendeten Trainingsdaten „voreingenommen“ wird, muss möglichst gering gehalten werden.
• Nicht zuletzt sollen Forschende, zusammen mit Politik, Zivilgesellschaft und Unternehmen die Auswirkungen von KI überwachen und gegebenenfalls Methoden und Regeln anpassen.
„Signalwirkung für Forschende“
„Bisherige KI-Prinzipien betreffen vor allem die Entwicklung von KI. Die nun erarbeiteten Grundsätze fokussieren dagegen auf die Nutzung in der Wissenschaft und kommen zur richtigen Zeit. Sie haben Signalwirkung für Forschende über Disziplinen und Sektoren hinweg“, erläutert Urs Gasser.
Ein neuer Strategierat – angesiedelt bei der Nationalen Akademie der Naturwissenschaften, Ingenieurwissenschaften und Medizin der USA - soll der Wissenschaft beratend zur Seite stehen, schlägt die Arbeitsgruppe vor. „Ich wünsche mir, dass Wissenschaftsakademien in anderen Ländern – namentlich auch hier in Europa – den Ball aufnehmen und die Diskussion um den verantwortungsvollen Umgang mit KI in der Forschung weiter verstärken“, so Urs Gasser.
Publikation:
Blau, W. et al. PNAS 2024 Vol. 121 (22) e2407886121 https://doi.org/10.1073/pnas.2407886121
Kontakt im TUM Corporate Communications Center:
Dr. Jeanne Rubner
Tel.: +49 89 289 25283
jeanne.rubner@tum.de
www.tum.de
Prof. Dr. Urs Gasser
Technische Universität München (TUM)
Lehrstuhl für Public Policy, Governance and Innovative Technology
urs.gasser@tum.de
Blau, W. et al. PNAS 2024 Vol. 121 (22) e2407886121 https://doi.org/10.1073/pnas.2407886121
Criteria of this press release:
Journalists
Information technology, Media and communication sciences, Philosophy / ethics, Politics
transregional, national
Research results, Scientific Publications
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
