idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Fokus: Sicherheit für KI
Wettbewerb zum sicheren Maschinellen Lernen geht in Phase 2
Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) hat die zweite Phase ihres Forschungswettbewerbs „Robustes und Sicheres Maschinelles Lernen“ eingeleitet. Nach einer sorgfältigen Evaluierung der elf eingereichten Kurzkonzepte, an der als Jurymitglieder auch Bedarfsträger des BSI und der Bundeswehr teilgenommen haben, werden nun fünf ausgewählte Teams weiterforschen. Ihr Fokus liegt auf der Sicherheit und Robustheit neuronaler KI-Systeme gegenüber gezielten Angriffen und unvorhergesehenen Inputs.
Die erste Phase des Wettbewerbs, die Anfang April 2023 begann, zielte darauf ab, innovative Konzepte für robustes und sicheres Maschinelles Lernen (ML) zu entwickeln. Die Projektausschreibung umfasste fünf Schlüsselbereiche der Forschung: Datenabsicherung, Modellverifikation, Systemeinbettung, Entwicklung von Hybridmodellen aus neuronalen und symbolischen Komponenten sowie Ende-zu-Ende-Verifikation. Das mehrphasige Projekt soll während der fünfjährigen Laufzeit unterschiedliche Innovationsansätze vorantreiben.
Die fünf Konzepte der Konsortien, die sich in der 1. Phase des Wettbewerbs durchsetzen konnten, zeichnen sich durch diverse und spannende Ansätze mit einem hohen Grad an Modularität und Multimodalität aus. Mit der Phase 2 treten die Konsortien in die Langkonzeptphase. Diese wird sich über ein halbes Jahr erstrecken. Anschließend werden drei Konsortien ausgewählt, die die Grundlagenforschung und die Entwicklung von Prototypen weiterführen werden.
„Wir haben insgesamt eine große Bandbreite an Forschungsansätzen – von Software-Frameworks und Toolkits bis hin zu eher hardware-zentrischen und algorithmischen Konzepten – erhalten“, beschreibt Dr. Daniel Gille, Leiter des Projekts und Referatsleiter Künstliche Intelligenz bei der Cyberagentur, das Resultat des Wettbewerbs. „Mit unserer Jury haben wir daher für den Evaluationsprozess genau geprüft, in welchen Angeboten die potenziell bahnbrechenden Ansätze zur Steigerung der Robustheit und Sicherheit verschiedener KI-Methoden in den Bereichen der inneren und äußeren Sicherheit zu erkennen sind.“
Für den „Wettbewerb der Ideen“ wurde das Pre-Commercial Procurement (PCP), vorkommerzielle Auftragsvergabe, angewendet. Dieses spezifische Auftragsvergabeverfahren für Leistungen in Forschung und Innovation garantiert wettbewerbsbasierte und transparente Forschung in mehreren Phasen und eine Risiko-Nutzen-Teilung. Für die Evaluation hat die Cyberagentur eine Expertenjury gebildet, die sich aus eigenen Forscherinnen und Forschern sowie zwei externen Mitgliedern zusammensetzt. Mit den Vertretern des Bundesamts für Sicherheit in der Informationstechnik (BSI) sowie des Zentrums Digitalisierung der Bundeswehr und Fähigkeitsentwicklung Cyber- und Informationsraum (ZDigBw) wurde eine partnerschaftliche und produktive Zusammenarbeit etabliert, die auch in den zukünftigen Phasen fortgesetzt wird. „Damit garantieren wir, dass künftige Nutzer der Forschungsergebnisse bereits in den Wettbewerbsprozess eingebunden sind und mit ihrer fundierten und anwendungsnahen Expertise die Forschungsarbeiten zielorientiert begleiten“, erläutert Dr. Gille die Zusammensetzung der Jury.
Weitere Informationen:
https://www.cyberagentur.de/bevor-maschinen-ueberlistet-werden/
https://www.linkedin.com/feed/update/urn:li:activity:7062395469208932352
Kontakt
Michael Lindner
Pressesprecher der Cyberagentur
Tel.: +49 151 44150 645
E-Mail: presse@cyberagentur.de
Hintergrund: Cyberagentur
Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) wurde im Jahr 2020 als vollständige Inhouse-Gesellschaft des Bundes unter der gemeinsamen Federführung des Bundesministeriums der Verteidigung und des Bundesministeriums des Inneren und für Heimat durch die Bundesregierung mit dem Ziel gegründet, einen im Bereich der Cybersicherheit anwendungsstrategiebezogenen und ressortübergreifenden Blick auf die Innere und Äußere Sicherheit einzunehmen. Vor diesem Hintergrund bezweckt die Arbeit der Cyberagentur maßgeblich eine institutionalisierte Durchführung von hochinnovativen Vorhaben, die mit einem hohen Risiko bezüglich der Zielerreichung behaftet sind, gleichzeitig aber ein sehr hohes Disruptionspotenzial bei Erfolg innehaben können.
Die Cyberagentur ist Bestandteil der Nationalen Sicherheitsstrategie der Bundesrepublik Deutschland.
Der Cyberagentur stehen Prof. Dr. Christian Hummert als Forschungsdirektor und Geschäftsführer sowie Daniel Mayer als kaufmännischer Direktor vor.
Dr. Daniel Gille
https://www.cyberagentur.de/fokus-sicherheit-fuer-ki/
https://www.cyberagentur.de/bevor-maschinen-ueberlistet-werden/
https://www.linkedin.com/feed/update/urn:li:activity:7062395469208932352
Dr. Daniel Gille: Nächste Wettbewerbsphase im Forschungsprojekt „Robustes und sicheres Maschinelles ...
Andreas Stedtler
Cyberagentur
Merkmale dieser Pressemitteilung:
Journalisten, Wirtschaftsvertreter, Wissenschaftler
Elektrotechnik, Informationstechnik, Mathematik, Physik / Astronomie, Wirtschaft
überregional
Forschungsprojekte, Wettbewerbe / Auszeichnungen
Deutsch
Dr. Daniel Gille: Nächste Wettbewerbsphase im Forschungsprojekt „Robustes und sicheres Maschinelles ...
Andreas Stedtler
Cyberagentur
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
