idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Grafik: idw-Logo

idw - Informationsdienst
Wissenschaft

Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instance:
Share on: 
10/09/2023 11:09

Datenschutz bei KI: Experten fordern Rechtssicherheit für den Einsatz technischer Lösungen

Linda Treugut Geschäftsstelle
Lernende Systeme - Die Plattform für Künstliche Intelligenz

    Künstliche Intelligenz (KI) kann einen wichtigen Beitrag zu einer zukunftsfähigen Wirtschaft und Gesellschaft leisten. Aktuell sind Unternehmen beim Einsatz von KI jedoch noch zurückhaltend. Der häufig genannte Grund: Die datenschutzrechtlichen Hürden erscheinen zu hoch. Ein aktuelles Whitepaper der Plattform Lernende Systeme zeigt technische Ansätze, die Privacy und Datenschutz bei der Entwicklung und Nutzung von KI-Systemen sicherstellen. Die Autorinnen und Autoren fordern die gesetzliche Anerkennung der Verfahren, um die Rechtssicherheit für Unternehmen beim Einsatz von KI zu stärken.

    Datenschutz genießt in Deutschland und Europa einen hohen Stellenwert. Gleichzeitig finden sich in den Unternehmen häufig wertvolle Daten, die mithilfe von KI-Technologie im Sinne der Gesellschaft nutzbar gemacht werden könnten: Gesundheitsdaten von Patientinnen und Patienten könnten beispielsweise dafür verwendet werden, die Entstehung von Erkrankungen besser vorherzusagen; Bewegungsdaten von Personen und Fahrzeugen, um Risiken im Straßenverkehr zu reduzieren.

    Der Gesetzgeber stellt strenge Anforderungen an eine Nutzung personenbezogener Daten – wobei die rechtliche Auslegung in der Praxis oft unsicher sei und die KI-Anwendung in der Breite erschwere, heißt es im Whitepaper „Datenschatz für KI nutzen, Datenschutz mit KI wahren“. Viele Unternehmen schrecken aus diesem Grund vor dem Einsatz und der Entwicklung von KI-Systemen zurück, die sensible Daten von Nutzern verarbeiten. Jedoch existieren verschiedene technische Privacy-Ansätze, die es ermöglichen den Datenschutz bei der Verwendung personen-bezogener Daten zu wahren. Die Autorinnen und Autoren des Whitepapers fordern deshalb, technische Instrumente für mehr Privacy rechtlich anzuerkennen. Die Verfahren sollten als Ausnahme in die Datenschutzgrundverordnung (DSGVO) sowie künftige KI-Verordnung der Europäischen Union aufgenommen und in anwendungsspezifischer Datenschutzgesetzgebung ausformuliert werden. Dies ermögliche eine flexiblere Nutzung personenbezogener Daten. Voraussetzung: die Nutzung personenbezogener Daten ist alternativlos und liegt im Interesse des Gemeinwohls.

    Handlungsräume für KI-Entwicklung schaffen

    „Einsatz und Entwicklung von KI brauchen Rechtssicherheit. Statt Verbotsräumen sollte der Gesetzgeber Handlungsräume schaffen und technische Verfahren zur Wahrung des Datenschutzes juristisch zulassen. So lassen sich aktuell bestehende Interpretationsspielräume bei der Verarbeitung personenbezogener Daten schließen und die Chancen der Schlüsseltechnologie KI für unsere Gesellschaft besser nutzen”, sagt Jörn Müller-Quade, Professor für Kryptographie und Sicherheit am Karlsruher Institut für Technologie (KIT) sowie Co-Leiter der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme.

    Konkret empfehlen die Expertinnen und Experten etwa das Privacy-Preserving Machine Learning (kurz: PPML), das den Datenschutz bereits beim Design der KI-Anwendung sicherstellt. Dazu zählt die Anonymisierung, Pseudonymisierung oder Verschlüsselung personen-bezogener Daten. Weiter nennen sie technische Ansätze, die nicht direkt beim KI-Modell ansetzen, wie den Einsatz von Personal Information Management Systemen (PIMS) oder Datentreuhändern, mithilfe derer datengebende Personen die Hoheit über ihre Daten behalten und sogar selbst von deren Monetarisierung profitieren können. Erklärbare KI, also KI-Systeme, die ihre Entscheidungen und Funktionsweise transparent und verständlich machen, können den selbstbestimmten Umgang mit den eigenen Daten weiter stärken. Für Ansätze für erklärbare KI sowie für die Anonymisierung von Daten sollten Standards und Zertifizierungsmöglichkeiten eingeführt werden.

    Die Autorinnen und Autoren des Whitepapers unterstreichen, dass für das Training von KI-Systemen nicht-personenbezogene Daten grundsätzlich personenbezogenen Daten vorgezogen werden sollten, sofern sie die gleiche Datenqualität aufweisen. Sie empfehlen daher, interoperable Datenräume aufzubauen, um mehr nicht-personenbezogene Daten verfügbar zu machen.



    Über das Whitepaper

    Das Whitepaper „Datenschatz für KI nutzen, Datenschutz mit KI wahren. Technische und rechtliche Ansätze für eine datenschutzkonforme, gemeinwohlorientierte Datennutzung” wurde von Mitgliedern der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme verfasst. Es steht zum kostenfreien Download zur Verfügung.

    Über die Plattform Lernende Systeme

    Die Plattform Lernende Systeme ist ein Netzwerk von Expertinnen und Experten zum Thema Künstliche Intelligenz (KI). Sie bündelt vorhandenes Fachwissen und fördert als unabhängiger Makler den interdisziplinären Austausch und gesellschaftlichen Dialog. Die knapp 200 Mitglieder aus Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen Positionen zu Chancen und Herausforderungen von KI und benennen Handlungsoptionen für ihre verantwortliche Gestaltung. Damit unterstützen sie den Weg Deutschlands zu einem führenden Anbieter von vertrauenswürdiger KI sowie den Einsatz der Schlüsseltechnologie in Wirtschaft und Gesellschaft. Die Plattform Lernende Systeme wurde 2017 vom Bundesministerium für Bildung und Forschung (BMBF) auf Anregung von acatech – Deutsche Akademie der Technikwissenschaften gegründet und wird von einem Lenkungskreis gesteuert. Die Leitung der Plattform liegt bei Bundesministerin Bettina Stark-Watzinger (BMBF) und Jan Wörner (acatech).


    Original publication:

    https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG3_WP_K... - Das Whitepaper "Datenschatz für KI nutzen, Datenschutz mit KI wahren" der Plattform Lernende Systeme


    Images

    Phasen des Daten-Lebenszyklus
    Phasen des Daten-Lebenszyklus

    Plattform Lernende Systeme

    Datenschutzauflagen an KI-Systeme und Interpretation in der Anwendung über den Daten-Lebenszyklus
    Datenschutzauflagen an KI-Systeme und Interpretation in der Anwendung über den Daten-Lebenszyklus

    Plattform Lernende Systeme


    Criteria of this press release:
    Journalists
    Economics / business administration, Electrical engineering, Information technology, Law, Social studies
    transregional, national
    Research results, Transfer of Science or Research
    German


     

    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).