idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Wie können Unternehmen ihre KI-Systeme vertrauenswürdig gestalten? Mit dieser Frage beschäftigt sich eine neu gegründete Arbeitsgruppe des Bundesamts für Sicherheit in der Informationstechnik BSI und des Fraunhofer IAIS im Rahmen des KI.NRW Flagship-Projekts »Zertifizierte KI«. Die Arbeitsgruppe hat zum Ziel, standardisierungsreife Prüfgrundlagen und Kriterienwerke für KI-Systeme zu definieren. Wissenschaftler*innen des Fraunhofer IAIS haben eine wichtige inhaltliche Grundlage geschaffen: Ein über 160 Seiten starker KI-Prüfkatalog befähigt Unternehmen, Anforderungen an die Vertrauenswürdigkeit intelligenter Systeme für die Entwicklung individueller KI-Anwendungen zu operationalisieren.
Dieser in ersten Pilotprojekten erprobte Leitfaden fließt nun in die Zusammenarbeit mit dem BSI ein und ist ab sofort für die Öffentlichkeit zugänglich. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige KI-Zertifizierung zu ebnen.
Bei einer automatisierten Analyse von Bewerbungsdokumenten sind die Anforderungen an die Vertrauenswürdigkeit eines KI-Systems anders zu bewerten als bei einem Bilderkennungsverfahren zur Qualitätssicherung von Autokarosserien. Zwar gibt es erste Anforderungen und Leitlinien zur Vertrauenswürdigkeit von KI-Systemen, diese sind aber oftmals noch zu allgemein und abstrakt formuliert. Eine wichtige Konkretisierung stellt der kürzlich veröffentlichte AIC4-Katalog des BSI dar, welcher Cloud-basierte KI-Dienste adressiert. Gleichzeitig stehen andere bestehende Prüfverfahren, etwa aus der funktionalen Sicherheit oder der IT-Sicherheit, vor Herausforderungen, wenn es darum geht, ihre Bewertungsschemata auf Systeme mit KI-Komponenten anzuwenden.
Ziel der neu gegründeten Arbeitsgruppe des Projekts »Zertifizierte KI« ist es, diese Lücke zu füllen und praxistaugliche Prüfgrundlagen und Kriterienwerke zu definieren. Von zentraler Bedeutung ist hierbei die Anschlussfähigkeit an bestehende Prüfschemata und die Kompatibilität mit den Anforderungen der geplanten EU-Regulierung für KI. Die Ergebnisse bilden die Basis für kommende Standards und sollen schnell international harmonisiert werden. Eine wichtige Grundlage für die Arbeitsgruppe bildet der heute veröffentlichte KI-Prüfkatalog des Fraunhofer IAIS. Das Team rund um Dr. Maximilian Poretschkin, Leiter KI-Absicherung und -Zertifizierung am Fraunhofer IAIS, hat ein umfassendes Bewertungsschema veröffentlicht, das Unternehmen dabei hilft, Anforderungen an KI-Systeme individuell und lösungsspezifisch zu operationalisieren.
Der Prüfkatalog adressiert zwei Zielgruppen gleichermaßen: »Mit dem KI-Prüfkatalog haben wir jetzt ein praxistaugliches Dokument, das von unabhängigen Prüforganisationen als Grundlage für zukünftige Produktprüfungen genutzt werden kann. Gleichzeitig stellt er Unternehmen das Handwerkszeug zur Verfügung, mit dem sie bereits im Entwicklungsprozess ihre Systeme selbst evaluieren und verbessern können und sich so auf zukünftige regulatorische Anforderungen vorbereiten können«, sagt Prof. Dr. Stefan Wrobel, Institutsleiter Fraunhofer IAIS und Mitglied in der von der Bundesregierung neu gegründeten Koordinierungsgruppe KI-Normung und Konformität.
Für die Wettbewerbsfähigkeit von Unternehmen ist eine Prüfung und Zertifizierung von KI-Systemen ganz zentral: »Der Prüfkatalog bietet einen konkreten Leitfaden, mit dem Unternehmen ihre KI-Systeme nach hohen Qualitätsstandards entwickeln können. Dies ist wichtig, um Vertrauen in unsere Technologien zu sichern und auf internationalen Märkten zu bestehen«, sagt der nordrhein-westfälische Digitalminister Prof. Dr. Andreas Pinkwart. »Auf dem Weg zum führenden Standort für angewandte Künstliche Intelligenz kommen wir damit weiter voran.« Die Entwicklung des Prüfkatalogs wurde im Rahmen der nordrhein-westfälischen Kompetenzplattform KI.NRW gefördert.
Der KI-Prüfkatalog ist ab sofort kostenfrei online verfügbar.
https://www.iais.fraunhofer.de/ki-pruefkatalog KI-Prüfkatalog
https://www.iais.fraunhofer.de Fraunhofer IAIS
https://www.zertifizierte-ki.de Projekt Zertifizierte KI
https://www.ki.nrw KI.NRW
https://www.bsi.bund.de/DE/Home/home_node.html BSI
Der in ersten Pilotprojekten erprobte Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intell ...
Merkmale dieser Pressemitteilung:
Journalisten, Wirtschaftsvertreter, Wissenschaftler, jedermann
Informationstechnik, Mathematik, Wirtschaft
überregional
Forschungs- / Wissenstransfer, Kooperationen
Deutsch
Der in ersten Pilotprojekten erprobte Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intell ...
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
