idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Künstliche Intelligenz (KI) ermöglicht viele nutzbringende Anwendungen. Inwieweit KI-basierte Systeme tatsächlich eingesetzt werden, hängt maßgeblich davon ab, ob die Menschen der Technologie vertrauen. Ethische Werte und Prinzipien spielen – zumindest in Europa – für die Entwicklung von KI daher eine zentrale Rolle. Die Plattform Lernende Systeme hat einen Leitfaden verfasst, wie sichere, nachvollziehbare und diskriminierungsfreie KI-Anwendungen entstehen können. Die Autorinnen und Autoren benennen hierfür konkrete Anforderungen und geben Praxisbeispiele für eine verantwortungsvolle KI-Entwicklung und -Anwendung in Unternehmen.
Künstliche Intelligenz (KI) kann unseren Alltag erleichtern, die Gesundheitsversorgung verbessern und bei der Lösung globaler Herausforderungen wie dem Klimawandel oder der Corona-Pandemie unterstützen. Wie nahezu alle technischen Innovationen birgt auch KI neben enormen Chancen einige Risiken – und wirft somit ethische und moralische Fragen auf. Ein KI-System kann beispielsweise die Personalabteilung beim Vorsortieren von Bewerbungen unterstützen – aber unter Umständen auch Kandidatinnen diskriminieren, weil in der Vergangenheit überwiegend Männer eingestellt wurden und das System mit diesen Daten trainiert wurde.
Viele Unternehmen und Institutionen, die KI-Systeme entwickeln und anwenden, sind sich der Bedeutung eines verantwortungsvollen Umgangs mit KI bewusst. Sie stehen jedoch vor der Herausforderung, abstrakte ethische Werte und Prinzipen wie die Diskriminierungsfreiheit oder Transparenz der KI-Systeme in die Praxis umzusetzen. Der Leitfaden „Ethik-Briefings“ der Plattform Lernende Systeme greift den “Ethics by, in and for Design“-Ansatz auf, den die Bundesregierung in ihrer KI-Strategie verfolgt. „Unser Leitfaden dient Entwicklerinnen und Entwicklern sowie Anbietern von KI als Orientierung. Als Faustregel gilt: Je höher die Risiken durch den Einsatz eines KI-Systems sind, desto mehr Gewicht soll bereits im Entwicklungsprozess die Einhaltung ethischer Prinzipien haben“, erklärt Jessica Heesen, Leiterin des Forschungsschwerpunkts Medienethik und Informationstechnik am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen und Leiterin der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme. „So ist zum Beispiel bei einem KI-System in der öffentlichen Verwaltung, das über die Vergabe von Sozialleistungen entscheidet, ein sehr hohes Verantwortungsbewusstsein gefragt. Dabei muss allerdings klar sein, dass nicht immer alle Werte gleichzeitig realisiert werden können.“
Als übergeordnete Werte für eine verantwortungsvolle KI-Entwicklung nennen die Autorinnen und Autoren des Leitfadens Selbstbestimmung, Gerechtigkeit und den Schutz der Privatsphäre. „KI-Systeme sollten immer mit dem Ziel entwickelt und eingesetzt werden, zu ethisch legitimen Anwendungen beizutragen, idealerweise zur Förderung des Gemeinwohls“, so Mitautor Armin Grunwald, Professor für Technikphilosophie am Karlsruher Institut für Technologie (KIT) und Leiter des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag. „Beim Einsatz von KI muss Schaden für Einzelpersonen, Gemeinschaften und Umwelt vermieden werden. Die Systeme müssen rechtskonform und technisch robust sein. Sie dürfen zu keinem Zeitpunkt ein unannehmbares Sicherheitsrisiko darstellen.“
Um die Selbstbestimmung der Nutzer zu gewährleisten, sollten Technologieunternehmen erklärbare KI-Systeme konzipieren, die Ergebnisse und Entscheidungen für den Nutzer nachvollziehbar machen. Die Autorinnen und Autoren empfehlen außerdem ein zentrales KI-Register, das in Kooperation zwischen Wirtschaft und öffentlicher Hand betrieben wird. KI-Anbieter sollen dort ihre Anwendungen eintragen, so dass sich Verbraucherinnen und Verbraucher darüber informieren können, in welche Produkte oder Dienstleistungen KI integriert ist. Zudem warnen die Autorinnen und Autoren vor einseitigen Abhängigkeitsverhältnissen zwischen KI-Entwicklern, -Anbietern und -Nutzern. Deshalb sollten die Unternehmen bei der Entwicklung offene Schnittstellen in ihre Systeme integrieren und sie interoperabel konzipieren, um die Vielfalt des Marktangebots zu erhalten.
Ein KI-System ist nur so gut wie die zugrunde liegenden Daten. Wichtig daher: Hersteller sollen bei der Entwicklung von KI-Systemen auf die Qualität der Trainingsdaten achten, deren Herkunft offenlegen und möglichst anonymisierte oder pseudonymisierte Datensätze verwenden, um diskriminierungsfreie und sichere KI-Systeme zu gestalten. Der Politik empfehlen die Autorinnen und Autoren, Standards festzulegen, die es ermöglichen, KI-Systeme zu zertifizieren und auditieren, und Einspruchsmöglichkeiten für betroffene Personen vorzusehen. Gleichzeitig sehen die Autorinnen und Autoren auch die Menschen selbst in der Verantwortung, sich vor der Nutzung über ein KI-System zu informieren und sorgfältig mit ihren Daten umzugehen.
Über das Whitepaper
Die Autorinnen und Autoren des Whitepapers „Ethik-Briefing. Leitfaden für eine verantwortungsvolle Entwicklung und Anwendung von KI-Systemen“ sind Mitglieder der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme.
Über die Plattform Lernende Systeme
Die Plattform Lernende Systeme wurde 2017 vom Bundesministerium für Bildung und Forschung (BMBF) auf Anregung des Fachforums Autonome Systeme des Hightech-Forums und acatech gegründet. Sie vereint Expertinnen und Experten aus Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft aus dem Bereich Künstliche Intelligenz. In Arbeitsgruppen entwickeln sie Handlungsoptionen und Empfehlungen für den verantwortlichen Einsatz von Lernenden Systemen. Ziel der Plattform ist es, als unabhängiger Makler den gesellschaftlichen Dialog zu fördern, Kooperationen in Forschung und Entwicklung anzuregen und Deutschland als führenden Technologieanbieter für Lernende Systeme zu positionieren. Die Leitung der Plattform liegt bei Bundesministerin Anja Karliczek (BMBF) und Karl-Heinz Streibich (Präsident acatech).
https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG3_Whit...
https://www.plattform-lernende-systeme.de/id-3-fragen-an-newsreader/verantwortun...
Der neue Leitfaden der Plattform Lernende Systeme gibt Empfehlungen, wie verantwortungsvolle KI-Syst ...
Plattform Lernende Systeme
Criteria of this press release:
Journalists
Economics / business administration, Information technology, Philosophy / ethics, Politics, Social studies
transregional, national
Research projects, Scientific Publications
German
Der neue Leitfaden der Plattform Lernende Systeme gibt Empfehlungen, wie verantwortungsvolle KI-Syst ...
Plattform Lernende Systeme
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
