idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Ein verantwortungsvoller Einsatz von Künstlicher Intelligenz (KI) in militärischen Anwendungen ist möglich: Zu diesem Schluss kommt ein Whitepaper, in dem das Fraunhofer IOSB und der Sensorlösungsanbieter HENSOLDT gemeinsam drei Anwendungsfälle im Bereich der Aufklärung und Überwachung untersucht haben. Entscheidend wichtig ist dabei, die Grundsätze ethischer KI in Systemdesign, -entwicklung und -betrieb konsequent zu berücksichtigen.
Unter dem Titel »Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance« analysiert die gemeinsam vom Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB mit HENSOLDT veröffentlichte Studie, wie ethische Prinzipien wie Fairness, Nachvollziehbarkeit, Transparenz und Verantwortung in der militärischen Nutzung von KI umgesetzt werden können.
Sicherstellen, dass KI-Systeme zuverlässig, erklärbar und kontrollierbar bleiben
Diese Prinzipien werden auf drei praxisnahe Anwendungsfälle angewandt, um sicherzustellen, dass KI-Systeme zuverlässig, erklärbar und kontrollierbar bleiben. Fairness verhindert die unbeabsichtigte Voreingenommenheit von KI-Verfahren , Nachvollziehbarkeit sorgt für verständliche Entscheidungen, Transparenz ermöglicht eine überprüfbare Entscheidungsfindung und Verantwortung stellt sicher, dass der Mensch stets die letzte Instanz bleibt.
Die Studie untersucht drei militärische Anwendungsfälle:
- Maritime Überwachung: KI hilft bei der Klassifikation von Schiffen und stellt Entscheidungsgrundlagen transparent dar, um Fehleinschätzungen zu vermeiden.
- Schutz militärischer Feldlager: Automatisierte Bedrohungsanalyse durch Sensordaten unterstützt den Schutz von Sicherheitszonen und identifiziert potenzielle Gefahren frühzeitig.
- Urbane Aufklärung: KI-gestützte Systeme bewerten Bedrohungen in komplexen Umgebungen unter Berücksichtigung von Einsatzregeln und dem Schutz von Zivilisten.
Das Whitepaper zeigt, dass KI in militärischen Anwendungen verantwortungsvoll eingesetzt werden kann, wenn ethische Grundsätze konsequent berücksichtigt werden. Durch eine transparente Entscheidungsfindung, klare Kontrollmechanismen und erklärbare KI bleibt die menschliche Kontrolle stets gewährleistet. Die Studie unterstreicht die Bedeutung eines ausgewogenen Verhältnisses zwischen technologischer Leistungsfähigkeit und ethischer Vertretbarkeit.
Das Fraunhofer IOSB bringt in diese Forschung seine langjährige Expertise in erklärbarer KI, automatisierter Sensordatenverarbeitung, Assistenzsystemen und sicherheitskritischen Anwendungen ein. Die Ergebnisse zeigen Wege auf, wie moderne Technologien verantwortungsvoll gestaltet werden können, um die Entscheidungsunterstützung in militärischen Szenarien zu verbessern, ohne ethische Grundsätze zu vernachlässigen.
Das Whitepaper steht ab sofort auf der Webseite des Fraunhofer IOSB zum kostenlosen Download bereit.
Über das Fraunhofer IOSB:
Die Fraunhofer-Gesellschaft ist die weltweit führende Organisation für anwendungsorientierte Forschung. Unter ihrem Dach arbeiten 76 Institute und Forschungseinrichtungen an Standorten in ganz Deutschland. Eines davon ist das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB mit über 800 Mitarbeitenden in Karlsruhe, Ettlingen, Ilmenau, Lemgo, Berlin, Görlitz, Oberkochen, Rostock und Peking. Zu seinen Schwerpunkten zählen das industrielle Internet der Dinge, Informationsmanagement, bildgebende Sensoren und die automatisierte Auswertung der anfallenden Daten, bis hin zur Entwicklung von Entscheidungsunterstützungssystemen und (teil-)autonomen Systemen, sowie die Nutzbarmachung Künstlicher Intelligenz in praktischen Anwendungen.
https://www.iosb.fraunhofer.de
Pressekontakt:
Ulrich Pontes | ulrich.pontes@iosb.fraunhofer.de | +49 721 6091-301
Dr.-Ing. Nadia Burkart | nadia.burkart@iosb.fraunhofer.de | +49 721 6091-619
https://www.iosb.fraunhofer.de/whitepaper-ethische-ki Presseseite des Fraunhofer IOSB mit der Möglichkeit, das Whitepaper herunterzuladen
Cover des Whitepapers
HENSOLDT / Fraunhofer IOSB
Merkmale dieser Pressemitteilung:
Journalisten, Wirtschaftsvertreter, Wissenschaftler
Informationstechnik
überregional
Forschungsergebnisse
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
