idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Expertise der Cyberagentur gefragt
Online-Symposium Federated Learning
Federated Learning ermöglicht das verteilte Trainieren von Künstlicher Intelligenz mit besonders sensiblen Daten. Ein Online-Symposium am 27. März 2024 soll Hintergründe, Herausforderungen und den Stand der Forschung beleuchten. Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) wird sich mit Fachexpertise in die Diskussion rund um Risiken und Anforderungen an Lösungsansätze einbringen.
Aktuelle Herausforderungen, Forschungsfragen und Lösungsmöglichkeiten hinsichtlich der IT-Sicherheit von verteiltem Lernen (Federated Learning) für Künstliche Intelligenz (KI) sollen auf dem Online-Symposium „Federated Learning & ML Security“ am 27. März 2024 behandelt werden. Das Symposium richtet sich an Data Scientists, KI- und Sicherheits-Experten, Forscherinnen und Forscher sowie an Verantwortliche für die Optimierung von Produktivumgebungen durch den Einsatz von Machine Learning (ML). Veranstalter ist das Projekt MANTRA, eine der von der Cyberagentur beauftragten Forschungsgemeinschaften, das von der asvin GmbH geleitet wird.
Dr. Daniel Gille, Leiter Sicherheit durch KI und Sicherheit für KI in der Abteilung Schlüsseltechnologien der Cyberagentur, wird sich mit seiner Expertise im Bereich Künstliche Intelligenz und Machine Learning als Referent zum Thema „Machine Learning & IT-Security – Forschungsbedarfe für die Innere und Äußere Sicherheit“ und als Teilnehmer an der abschließenden Podiumsdiskussion einbringen. „Wir müssen uns dem Wechselspiel aus Chancen und Risiken bewusstwerden“, so der Forscher der Cyberagentur, „die sich aus der Anwendung von KI-Modellen in sicherheitskritischen Infrastrukturen und Einsatzfeldern ergeben. Da stehen wir vor großen Herausforderungen.“
In seinem Vortrag wird er auf Schwerpunkte eingehen, welche die gegenwärtige Forschung zur IT-Sicherheit durch Einsatz von KI-Modellen und -Anwendungen, aber auch zur Sicherheit und Verwundbarkeit der KI-Systeme selbst, adressieren muss. Ein Aspekt ist, dass sich im Federated Learning Modelle prinzipiell über manipulierte Trainingsdaten kompromittieren oder mit Hintertüren, sogenannten Backdoors, versehen lassen. Ein vertrauenswürdiges KI-Modell auf Basis von Federated Learning sollte daher in der gesamten Lieferkette auf Risiken überprüfbar sein, idealerweise mit Methoden für Risikoanalyse und zur Risikominimierung im operativen Machine Learning-Prozess.
Das Training von KI-Modellen in verteilten Netzwerken und über verteilte Instanzen ist aktuell ein Thema mit hohem Innovationsgehalt und Gegenstand zahlreicher Forschungsarbeiten. Doch die Ergebnisse derart verteilter Lernprozesse sind nur so gut wie Qualität der verwendeten Daten und hängen wesentlich vom Vertrauen in die Integrität der Teilnehmer am Trainingsprozess ab. Als Konsequenz entstehen neue Einfallstore für Angreifer auf KI-basierte Systeme.
Dabei ist Federated Learning einer der vielversprechendsten Ansätze, um KI-Modelle insbesondere in sensitiven Bereichen mit hohen Anforderungen an den Datenschutz zu trainieren. Hierbei wird aus einer Vielzahl einzelner Datenquellen und Modellinstanzen mehrerer Teilnehmer ein zentrales Modell gebildet. Dieses Modell repräsentiert das kollektive Wissen aller Teilnehmer, ohne dass diese sensitive Trainingsdaten teilen müssen.
Termin: 27. März 2024, 14:00 bis 17:00 Uhr, online
Weitere Informationen und Anmeldung:
https://zoom.us/webinar/register/6917095533462/WN_6thQegUUT--Sy3GleyM-nA#/regist...
https://www.cyberagentur.de/hsk/
https://www.cyberagentur.de/rsml/
Kontakt:
Michael Lindner
Pressesprecher der Cyberagentur
Tel.: +49 151 44150 645
E-Mail: presse@cyberagentur.de
Hintergrund: Cyberagentur
Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) wurde im Jahr 2020 als vollständige Inhouse-Gesellschaft des Bundes unter der gemeinsamen Federführung des Bundesministeriums der Verteidigung und des Bundesministeriums des Inneren und für Heimat durch die Bundesregierung mit dem Ziel gegründet, einen im Bereich der Cybersicherheit anwendungsstrategiebezogenen und ressortübergreifenden Blick auf die Innere und Äußere Sicherheit einzunehmen. Vor diesem Hintergrund bezweckt die Arbeit der Cyberagentur maßgeblich eine institutionalisierte Durchführung von hochinnovativen Vorhaben, die mit einem hohen Risiko bezüglich der Zielerreichung behaftet sind, gleichzeitig aber ein sehr hohes Disruptionspotenzial bei Erfolg innehaben können.
Die Cyberagentur ist Bestandteil der Nationalen Sicherheitsstrategie der Bundesrepublik Deutschland.
Der Cyberagentur stehen Prof. Dr. Christian Hummert als Forschungsdirektor und Geschäftsführer sowie Daniel Mayer als kaufmännischer Direktor vor.
Dr. Daniel Gille, Leiter Sicherheit durch KI und Sicherheit für KI in der Abteilung Schlüsseltechnologien der Cyberagentur
https://www.cyberagentur.de/online-symposium-federated-learning/
https://zoom.us/webinar/register/6917095533462/WN_6thQegUUT--Sy3GleyM-nA#/regist...
https://www.cyberagentur.de/hsk/
https://www.cyberagentur.de/rsml/
Dr. Daniel Gille, Leiter Sicherheit durch KI und Sicherheit für KI in der Abteilung Schlüsseltechnol ...
Andreas Stedtler
Cyberagentur
Merkmale dieser Pressemitteilung:
Journalisten, Wirtschaftsvertreter, Wissenschaftler
Elektrotechnik, Informationstechnik, Mathematik, Physik / Astronomie, Wirtschaft
überregional
Organisatorisches, Wissenschaftliche Tagungen
Deutsch
Dr. Daniel Gille, Leiter Sicherheit durch KI und Sicherheit für KI in der Abteilung Schlüsseltechnol ...
Andreas Stedtler
Cyberagentur
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
