idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Künstliche Intelligenz (KI) durchleuchten: Damit KI-Anwendungen künftig z. B. beim Autonomen Fahren oder in der Industrie 4.0 zum Einsatz kommen können, müssen ihre Funktionsweisen transparent und nachvollziehbar sein. Erste konkrete Absicherungsmethoden für die Gestaltung zuverlässiger KI-Systeme sowie Prüfverfahren »made in Germany« stellt das Projekt ZERTIFIZIERTE KI der Kompetenzplattform KI.NRW auf der Hannover Messe vor. Der Demonstrator »uncertAInty explorer« zeigt Interessierten, wie die Bewertung von Unsicherheiten einer KI-Prognose zu mehr Sicherheit beitragen kann. Vor Ort informiert das Fraunhofer IAIS darüber, wie Unternehmen KI-Risiken künftig gut einschätzen können.
Beim Autonomen Fahren oder in der Industrie 4.0 – Künstliche Intelligenz (KI) übernimmt künftig wichtige Aufgaben und muss insbesondere in sicherheitskritischen Anwendungen zuverlässig arbeiten. Damit die Funktionsweise und Entscheidungsfindung von KI-Systemen transparent und nachvollziehbar ist und Unternehmen KI-Anwendungen auch im Hinblick bevorstehender Standards und Gesetze wie dem europäischen AI ACT nachweislich zuverlässig gestalten können, arbeitet das Flagship-Projekt ZERTIFIZIERTE KI der Kompetenzplattform KI.NRW an konkreten Lösungen. So entwickeln im Projekt die Wissenschaftler*innen des Fraunhofer IAIS gemeinsam mit Partnern, unter anderem dem Deutschen Institut für Normung (DIN) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI), standardisierbare Prüfverfahren »made in Germany«.
Auf der Hannover Messe 2022 erhalten Unternehmen am Stand des Landes Nordrhein-Westfalen (Halle 11, Stand B13) konkrete Einblicke in das Projekt ZERTIFIZIERTE KI. So veranschaulicht der Demonstrator »uncertAInty explorer« das Prinzip der Unsicherheitsschätzung, mit welcher die Lücken einer KI-Analyse sichtbar werden, etwa bei der Einschätzung von Verkehrssituationen im Autonomen Fahren. »Bei hoch-automatisierten KI-Entscheidungen ist es wichtig beurteilen zu können, wie sicher sich eine KI mit ihrem Ergebnis ist. Konkret muss ein autonomes Fahrzeug zum Beispiel Objekte und Menschen in seiner Umgebung zuverlässig erkennen können, damit es angemessen darauf reagieren kann. Die Unsicherheitsbewertung hilft hierbei zu messen, wie stark man der Entscheidung des Systems vertrauen kann oder ob bestimmte Fallback-Mechanismen aktiviert werden müssen«, erklärt Dr. Maximilian Poretschkin, Leiter KI-Absicherung und -Zertifizierung am Fraunhofer IAIS und Konsortialleiter des Projekts. Daneben könne das Verfahren auch in vielen anderen Anwendungsbereichen sinnvoll sein, beispielsweise in einer Fertigungsstraße zur Qualitätssicherung von Produkten, um dort Ausschuss zu verringern und Qualitätseinbußen zu reduzieren.
Neben der technischen Umsetzung von Transparenz und Nachvollziehbarkeit in KI-Technologien kommt es auch zunehmend darauf an, die Qualität, Sicherheit und Zuverlässigkeit von KI-Systemen nachweisen zu können. Hierfür entwickelt das Projekt ZERTIFIZIERTE KI entsprechende Prüfverfahren, die Unternehmen bei der Entwicklung oder KI-Prüfer*innen bei der Evaluation von KI-Anwendungen unterstützen. »Ein wesentlicher Fokus unserer Forschung ist die Entwicklung von Prüfmethoden und
-Werkzeugen, um die Qualität von KI-Systemen unabhängig begutachten zu können. Eine KI-Prüfung kann die korrekte und sichere Funktionsweise sicherstellen und gleichzeitig das Vertrauen in und die Akzeptanz von KI-Anwendungen fördern«, sagt Poretschkin. Das belege auch eine Studie des Fraunhofer IAIS zum Einfluss von KI-Managementsystemen auf die Vertrauenswürdigkeit Künstlicher Intelligenz, die im Oktober 2021 veröffentlicht wurde.
Mit kostenfreiem Ticket Experten-Vorträge vor Ort ansehen
Unter dem Motto »Let’s create the industry of tomorrow« findet die größte deutsche Industriemesse vom 30. Mai bis 2. Juni 2022 auf dem Messegelände in Hannover statt. Das Projekt ZERTIFIZIERTE KI lädt Interessierte mit kostenfreien Fachbesuchertickets auf die Hannover Messe ein. Das begleitende Vortragsprogramm wird größtenteils via Livestream online übertragen. Interessierte sind besonders willkommen, die folgenden Vorträge der Wissenschaftler des Fraunhofer IAIS zum Thema »Prüfgrundlagen und Werkzeuge zum Nachweis der Vertrauenswürdigkeit von KI-Systemen« zu besuchen:
Dienstag, 31. Mai, 11.00 bis 12.00 Uhr: Dr. Maximilian Poretschkin, Fraunhofer IAIS, Gemeinschaftsstand Fraunhofer-Gesellschaft in Halle 5, Stand A06
Donnerstag, 2. Juni, 12.40 bis 13.05 Uhr: Daniel Becker, Fraunhofer IAIS,
Tech Transfer Stage in Halle 2, Stand A60, inkl. Livestream
Dr. Maximilian Poretschkin,
Leiter KI-Absicherung und -Zertifizierung
maximilian.poretschkin@iais.fraunhofer.de
Telefon +49 2241 14-2260
http://www.iais.fraunhofer.de Fraunhofer IAIS
http://www.zertifizierte-ki.de/ ZERTIFIZIERTE KI
http://www.iais.fraunhofer.de/de/geschaeftsfelder/big-data-analytics-and-intelli... Technologien und Lösungsansätze für zuverlässige KI
http://www.iais.fraunhofer.de/ki-management-studie Studie KI-Managementsysteme
Criteria of this press release:
Business and commerce, Journalists, Scientists and scholars, all interested persons
Economics / business administration, Information technology, Mathematics, Traffic / transport
transregional, national
Research projects, Transfer of Science or Research
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
