idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Vier Teams entwickeln KI-Benchmarks und Modelle für sicherheitskritische Anwendungen
Mit HEGEMON beginnt ein in Europa einzigartiger Forschungswettbewerb: Vier Teams treten gegeneinander an, um generative Foundation Models erstmals systematisch, neutral und nachvollziehbar für sicherheitskritische Kontexte zu adaptieren. Im Zentrum stehen anspruchsvolle Aufgaben aus dem Geoinformationswesen – und die Frage, wie und welche international vortrainierten Modelle sich für deutsche Sicherheitsbehörden zuverlässig einsetzen lassen. Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) setzt dabei bewusst auf Leistungsvergleich, Transparenz und strenge Evaluationszyklen.
Die Cyberagentur hat den Startschuss für HEGEMON gegeben – ein neues, dreijähriges Forschungsprogramm zur Entwicklung ganzheitlicher Benchmarks und passgenauer KI-Modelle für sicherheitskritische Anwendungen. Die Ausschreibung war im Juni 2025 eröffnet worden. Nach einem intensiven Bewertungsverfahren, das auch Expertinnen und Experten der Bedarfsträger Bundeswehr, ZITiS und BSI einbezog, stehen nun die vier Auftragnehmer fest, die den Wettbewerb bestreiten.
Ausgewählt wurden das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) im Verbund mit der GAF AG, die dida Datenschmiede GmbH, das Fraunhofer-Institut für Integrierte Schaltungen (IIS) sowie das Institut für Angewandte Informatik (InfAI) e. V. Sie alle adressieren eine der zentralen Herausforderungen der aktuellen KI-Landschaft: die fehlende Möglichkeit, international entwickelte Foundation Models – überwiegend aus den USA oder China – systematisch, vergleichend und belastbar im sicherheitskritischen europäischen Kontext zu evaluieren.
HEGEMON setzt genau hier an. In einem Wettbewerbsformat „jeder gegen jeden“ werden die Modelle der vier Teams für komplexe Aufgaben aus dem Geoinformationswesen angepasst. Dazu gehören:
• die Erzeugung nachvollziehbarer Text-Zusammenfassungen zu länderspezifischen Themen,
• die Umwandlung von Fernerkundungsdaten in Vektordaten,
• sowie ein Karten-Chatbot mit intelligenter Textausgabe auf Kartenbasis (bspw. „Gibt es auf dieser Karte medizinische Einrichtungen? Bitte teile die Koordinaten mit, falls sie vorhanden sind.“).
Neben der Entwicklung der Modelle entstehen domänenspezifische, ganzheitliche Benchmark-Sets – bestehend aus Aufgaben, Metriken und Testdatensätzen – die den Bedarfsträgern künftig eine transparente und nachvollziehbare Leistungsbewertung von KI-Systemen ermöglichen sollen.
Ein Kernmerkmal des Programms ist die neutrale Testumgebung: Alle Teilnehmenden übermitteln ihre Modelle und Benchmarks an eine separate Plattform, die in Kooperation mit der GISA GmbH betrieben wird. Dort erfolgt die Inferenz unter identischen Bedingungen und die Resultate werden auf einem Leaderboard transparent zusammengeführt.
Der Wettbewerb ist in mehrere Evaluationsphasen unterteilt: Nach neun Monaten erfolgt der erste große Test. Basierend auf den Ergebnissen geht die Forschung in ihre nächste Phase, bis nach 20 Monaten ein zweiter Interaktionszeitraum und nach 36 Monaten der Abschlusstest folgen.
Dr. Daniel Gille, Leiter Künstliche Intelligenz in der Cyberagentur und Programmleiter, betont den Mehrwert dieses Ansatzes: „Von dem gegenseitigen Wettbewerb und den regelmäßigen Interaktionen erhoffen wir uns nicht nur leistungsfähigere Modelle, sondern auch wesentlich aussagekräftigere Benchmarks. Denn um vorne zu liegen, müssen alle Teilnehmenden kontinuierlich voneinander lernen und ihre Ansätze weiterentwickeln. Das sorgt für Dynamik, Qualität und echten Fortschritt.“
Besonders hebt er die Rolle der Bedarfsträger hervor: „Die Einschätzungen von BSI, ZITiS und Bundeswehr sind hochgradig anwendungsrelevant, sehr fundiert und erweitern unsere fachliche Bandbreite nochmals signifikant. So kann sichergestellt werden, dass unsere Programme von Anfang an auf hochrelevante und verwertbare Ergebnisse zusteuern.“
Mit HEGEMON schafft die Cyberagentur einen neuen Standard für die Evaluierung sicherheitskritischer KI in Deutschland und Europa. Der Wettbewerb legt die Grundlage für robuste, transparente und vergleichbare Prüfverfahren – ein entscheidender Schritt hin zu vertrauenswürdigen Foundation Models im Sicherheitsbereich.
Weitere Informationen:
https://www.cyberagentur.de/programme/hegemon/
Kontakt:
Agentur für Innovation in der Cybersicherheit GmbH
Große Steinstraße 19
06108 Halle (Saale)
Michael Lindner
Pressesprecher
Tel.: +49 151 44150 645
E-Mail: presse@cyberagentur.de
Hintergrund: Cyberagentur
Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) wurde im Jahr 2020 als vollständige Inhouse-Gesellschaft des Bundes unter der gemeinsamen Federführung des Bundesministeriums der Verteidigung und des Bundesministeriums des Inneren und für Heimat durch die Bundesregierung mit dem Ziel gegründet, einen im Bereich der Cybersicherheit anwendungsstrategiebezogenen und ressortübergreifenden Blick auf die Innere und Äußere Sicherheit einzunehmen. Vor diesem Hintergrund bezweckt die Arbeit der Cyberagentur maßgeblich eine institutionalisierte Durchführung von hochinnovativen Vorhaben, die mit einem hohen Risiko bezüglich der Zielerreichung behaftet sind, gleichzeitig aber ein sehr hohes Disruptionspotenzial bei Erfolg innehaben können.
Die Cyberagentur ist Bestandteil der Nationalen Sicherheitsstrategie der Bundesrepublik Deutschland.
Der Cyberagentur stehen als Geschäftsführung Prof. Dr. Christian Hummert als Forschungsdirektor und Bettina Bubnys als kaufmännische Geschäftsführung vor.
Dr. Daniel Gille, Leiter Künstliche Intelligenz und Programmleiter
https://www.cyberagentur.de/presse/europas-weg-zu-einer-transparenteren-anwendun...
https://www.cyberagentur.de/programme/hegemon/
Dr. Daniel Gille, Leiter Künstliche Intelligenz der Cyberagentur, betont im Rahmen des neuen Forschu ...
Source: Nancy Glor
Copyright: Cyberagentur
Criteria of this press release:
Business and commerce, Journalists, Scientists and scholars, Students
Economics / business administration, Geosciences, Information technology, Physics / astronomy
transregional, national
Cooperation agreements, Research projects
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
