idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Ein verantwortungsvoller Einsatz von Künstlicher Intelligenz (KI) in militärischen Anwendungen ist möglich: Zu diesem Schluss kommt ein Whitepaper, in dem das Fraunhofer IOSB und der Sensorlösungsanbieter HENSOLDT gemeinsam drei Anwendungsfälle im Bereich der Aufklärung und Überwachung untersucht haben. Entscheidend wichtig ist dabei, die Grundsätze ethischer KI in Systemdesign, -entwicklung und -betrieb konsequent zu berücksichtigen.
Unter dem Titel »Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance« analysiert die gemeinsam vom Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB mit HENSOLDT veröffentlichte Studie, wie ethische Prinzipien wie Fairness, Nachvollziehbarkeit, Transparenz und Verantwortung in der militärischen Nutzung von KI umgesetzt werden können.
Sicherstellen, dass KI-Systeme zuverlässig, erklärbar und kontrollierbar bleiben
Diese Prinzipien werden auf drei praxisnahe Anwendungsfälle angewandt, um sicherzustellen, dass KI-Systeme zuverlässig, erklärbar und kontrollierbar bleiben. Fairness verhindert die unbeabsichtigte Voreingenommenheit von KI-Verfahren , Nachvollziehbarkeit sorgt für verständliche Entscheidungen, Transparenz ermöglicht eine überprüfbare Entscheidungsfindung und Verantwortung stellt sicher, dass der Mensch stets die letzte Instanz bleibt.
Die Studie untersucht drei militärische Anwendungsfälle:
- Maritime Überwachung: KI hilft bei der Klassifikation von Schiffen und stellt Entscheidungsgrundlagen transparent dar, um Fehleinschätzungen zu vermeiden.
- Schutz militärischer Feldlager: Automatisierte Bedrohungsanalyse durch Sensordaten unterstützt den Schutz von Sicherheitszonen und identifiziert potenzielle Gefahren frühzeitig.
- Urbane Aufklärung: KI-gestützte Systeme bewerten Bedrohungen in komplexen Umgebungen unter Berücksichtigung von Einsatzregeln und dem Schutz von Zivilisten.
Das Whitepaper zeigt, dass KI in militärischen Anwendungen verantwortungsvoll eingesetzt werden kann, wenn ethische Grundsätze konsequent berücksichtigt werden. Durch eine transparente Entscheidungsfindung, klare Kontrollmechanismen und erklärbare KI bleibt die menschliche Kontrolle stets gewährleistet. Die Studie unterstreicht die Bedeutung eines ausgewogenen Verhältnisses zwischen technologischer Leistungsfähigkeit und ethischer Vertretbarkeit.
Das Fraunhofer IOSB bringt in diese Forschung seine langjährige Expertise in erklärbarer KI, automatisierter Sensordatenverarbeitung, Assistenzsystemen und sicherheitskritischen Anwendungen ein. Die Ergebnisse zeigen Wege auf, wie moderne Technologien verantwortungsvoll gestaltet werden können, um die Entscheidungsunterstützung in militärischen Szenarien zu verbessern, ohne ethische Grundsätze zu vernachlässigen.
Das Whitepaper steht ab sofort auf der Webseite des Fraunhofer IOSB zum kostenlosen Download bereit.
Über das Fraunhofer IOSB:
Die Fraunhofer-Gesellschaft ist die weltweit führende Organisation für anwendungsorientierte Forschung. Unter ihrem Dach arbeiten 76 Institute und Forschungseinrichtungen an Standorten in ganz Deutschland. Eines davon ist das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB mit über 800 Mitarbeitenden in Karlsruhe, Ettlingen, Ilmenau, Lemgo, Berlin, Görlitz, Oberkochen, Rostock und Peking. Zu seinen Schwerpunkten zählen das industrielle Internet der Dinge, Informationsmanagement, bildgebende Sensoren und die automatisierte Auswertung der anfallenden Daten, bis hin zur Entwicklung von Entscheidungsunterstützungssystemen und (teil-)autonomen Systemen, sowie die Nutzbarmachung Künstlicher Intelligenz in praktischen Anwendungen.
https://www.iosb.fraunhofer.de
Pressekontakt:
Ulrich Pontes | ulrich.pontes@iosb.fraunhofer.de | +49 721 6091-301
Dr.-Ing. Nadia Burkart | nadia.burkart@iosb.fraunhofer.de | +49 721 6091-619
https://www.iosb.fraunhofer.de/whitepaper-ethische-ki Presseseite des Fraunhofer IOSB mit der Möglichkeit, das Whitepaper herunterzuladen
Cover des Whitepapers
HENSOLDT / Fraunhofer IOSB
Criteria of this press release:
Business and commerce, Journalists, Scientists and scholars
Information technology
transregional, national
Research results
German
Cover des Whitepapers
HENSOLDT / Fraunhofer IOSB
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
