idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instance:
Share on: 
04/28/2020 15:07

Zertifizierung von Künstlicher Intelligenz: Plattform Lernende Systeme benennt Herausforderungen

Linda Treugut Geschäftsstelle
Lernende Systeme - Die Plattform für Künstliche Intelligenz

    Künstliche Intelligenz (KI) kommt bereits in vielen Branchen zum Einsatz. Um ihr wirtschaftliches und gesellschaftliches Potential auszuschöpfen, ist es wesentlich, das Vertrauen in KI-Systeme und die mit ihnen verbundenen Prozesse und Entscheidungen zu stärken. Eine mögliche Schlüsselvoraussetzung dafür ist eine Zertifizierung von KI-Systemen. Welchen Nutzen sie verspricht und welche Anforderungen sich mit Blick auf technische Umsetzung, Gemeinwohl und Erhalt der Innovationskraft stellen, skizzieren Expertinnen und Experten der Plattform Lernende Systeme in einem Impulspapier. Es gibt einen Überblick über bestehende Zertifizierungsprojekte in Deutschland.

    München, 28. April 2020 – Insbesondere in sensiblen Anwendungsbereichen wie etwa der Medizin kann eine Zertifizierung von KI-Systemen dazu beitragen, das Vertrauen in ihre Leistungsfähigkeit, Zuverlässigkeit und Sicherheit zu stärken. Im betrieblichen Kontext erleichtert eine Zertifizierung die Interoperabilität verschiedener Systeme und fördert so den weiteren Einsatz von Künstlicher Intelligenz. Nicht zuletzt könnte eine Zertifizierung die Wettbewerbsdynamik bei der Entwicklung von KI-Anwendungen fördern und – über die Etablierung einer vertrauenswürdigen Marke „KI made in Europe“ – international Wettbewerbsvorteile schaffen.

    Besondere Herausforderungen bei Lernenden Systemen

    Auf dem Weg zu einer Zertifizierung von Künstlicher Intelligenz sind jedoch zahlreiche Fragen zu klären. „Zum Beispiel muss beantwortet werden, wie Lernende Systeme verlässlich verifiziert werden können, oder wie ein Weiterlernen im Betrieb – etwa durch strukturierte Updates – sichergestellt werden kann“, sagt Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS und Mitglied der Arbeitsgruppe Technologische Wegbereiter und Data Science der Plattform Lernende Systeme. „Eine weitere Herausforderung ist, dass KI-Anwendungen oft hybride Systeme sind – das heißt, sie beruhen auf einer Kombination von unterschiedlichen KI-Technologien. Im Bereich der Sprachtechnologie werden beispielsweise häufig maschinelle Lernverfahren mit modellhaftem Wissen kombiniert. Auch solche komplexen Systeme muss eine Zertifizierung abdecken“, so Stefan Wrobel.

    Entscheidend für eine sinnvolle und nutzbringende Zertifizierung von KI-Systemen sei auch, das richtige Maß zu finden. „Die Aufgabe besteht darin, ein allgemeines Prüfsystem zu entwickeln, um eine Zertifizierung hochgradig verschiedener KI-Systeme für unterschiedliche Einsatzgebiete vergleichbar zu gestalten. Dabei gilt es, bereits etablierte Normen und Standards zu berücksichtigen und vorhandene Lücken zu schließen“, erläutert Stefan Wrobel, einer von vier Co-Autoren des Impulspapiers.

    Geeignetes Maß für Zertifizierung finden

    Das von einem interdisziplinären Autorenteam erstellte Impulspapier „Zertifizierung von KI-Systemen“ der Plattform Lernende Systeme beleuchtet nicht nur technische, sondern auch juristische und ethische Aspekte. „Eine Zertifizierung kann für eine Vielzahl von KI-Systemen dazu beitragen, ihr gesellschaftliches Nutzenpotential sicher und gemeinwohlorientiert auszuschöpfen. Damit dies im Einklang mit gesellschaftlich anerkannten Werten geschieht, muss eine Form von Zertifizierung gefunden werden, die von wichtigen ethischen Prinzipien geleitet wird, aber gleichzeitig auch ökonomische Prinzipien erfüllt, Überregulierung vermeidet sowie Innovationen fördert“, sagt Jessica Heesen, Leiterin des Forschungsschwerpunkts Medienethik und Informationstechnik am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen und Leiterin der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme. Die Co-Autorin des Impulspapiers ergänzt: „Im besten Fall kann eine Zertifizierung selbst zum Auslöser neuer Entwicklungen für einen europäischen Weg in der KI-Anwendung werden.“

    Über das Impulspapier
    Das Impulspapier „Zertifizierung von KI-Systemen“ beleuchtet Potentiale und Herausforderungen, die eine Zertifizierung von KI-Systemen birgt und gibt einen Überblick über bestehende Zertifizierungsprojekte in Deutschland. Das Papier wurde von Mitgliedern der Plattform Lernende Systeme unter der Leitung der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik sowie der Arbeitsgruppe Technologische Wegbereiter und Data Science verfasst und versteht sich als Grundlage für weitere Diskussionen zum Thema. Es steht zum Download bereit unter
    https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG3_Impu... .

    Über die Plattform Lernende Systeme
    Die Plattform Lernende Systeme wurde 2017 vom Bundesministerium für Bildung und Forschung (BMBF) auf Anregung des Fachforums Autonome Systeme des Hightech-Forums und acatech gegründet. Sie vereint Expertinnen und Experten aus Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft aus dem Bereich Künstliche Intelligenz. In Arbeitsgruppen entwickeln sie Handlungsoptionen und Empfehlungen für den verantwortlichen Einsatz von Lernenden Systemen. Ziel der Plattform ist es, als unabhängiger Makler den gesellschaftlichen Dialog zu fördern, Kooperationen in Forschung und Entwicklung anzuregen und Deutschland als führenden Technologieanbieter für Lernende Systeme zu positionieren. Die Leitung der Plattform liegt bei Bundesministerin Anja Karliczek (BMBF) und Karl-Heinz Streibich (Präsident acatech).


    More information:

    https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG3_Impu...


    Images

    Criteria of this press release:
    Journalists
    Economics / business administration, Information technology, Law, Politics, Social studies
    transregional, national
    Research projects, Scientific Publications
    German


     

    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).