Fortschritt für KI-basierte Cybersicherheit

idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Thema Corona

Imagefilm
Science Video Project



Teilen: 
24.09.2020 12:26

Fortschritt für KI-basierte Cybersicherheit

Oliver Küch Presse- und Öffentlichkeitsarbeit
Fraunhofer-Institut für Sichere Informationstechnologie SIT

    Eberbacher Gespräch zu KI, Security und Privacy: Experten geben Handlungsempfehlungen für erfolgreiche Nutzung von Künstlicher Intelligenz im Bereich Cybersicherheit

    Trotz zahlreicher Innovationsmöglichkeiten zögern viele Unternehmen und Behörden noch bei der Nutzung von Künstlicher Intelligenz (KI) im Bereich Cybersicherheit. Ein wesentlicher Grund: Die Leistungsfähigkeit von Systemen ist oft nur schwer zu beurteilen. In einem Workshop am Fraunhofer-Institut für Sichere Informationstechnologie SIT haben Experten aus Wissenschaft und Wirtschaft Empfehlungen erarbeitet, wie Hindernisse für den KI-Einsatz überwunden werden können: Hierzu zählen konkrete Qualitätskriterien und Prüfmöglichkeiten. Der vollständige Ergebnisbericht mit allen Empfehlungen, vielen Erläuterungen und Praxisbeispielen ist im Internet unter www.sit.fraunhofer.de kostenfrei herunterladbar.

    Die Cybersecurity-Branche gehört zu den Pionierinnen in der Anwendung der Künstlichen Intelligenz. Sie wird seit Jahren in der Angriffserkennung und bei Virenscannern eingesetzt. Allerdings halten offene Fragen hinsichtlich Sicherheit, Datenschutz und Haftungsrisiken viele Unternehmen und Behörden von der praktischen KI-Nutzung ab. Oft fällt es Anwender-Organisationen schwer zu beurteilen, ob KI-Systeme überhaupt die notwendige Reife für die Praxis besitzen. Gleichzeitig können Hersteller-Unternehmen Sicherheit und Qualität ihrer KI-Produkte nur schwer nachweisen. In Laborumgebungen erkennen KI-Systeme zum Teil sehr gut Angriffsmuster, in realen Internetumgebungen allerdings nicht. Prüfpunkte und entsprechende Benchmarks können hier Anwenderorganisationen- und Herstellerunternehmen eine verlässliche Orientierung verschaffen. Spezifische Mindestanforderungen von Branchenverbänden können Orientierung schaffen und die öffentliche Hand könnte Testzentren unterhalten, welche die Einhaltung der Kriterien prüfen können, etwa für den Einsatz in kritischen Infrastrukturen.

    Eine besondere Herausforderung stellt die Verwendung von KI-Systemen durch Angreifer und Saboteurinnen dar. Heute nutzen Unternehmen bereits KI-Systeme zum Schutz des Firmennetzwerks, um Angriffe schneller zu erkennen und zu vereiteln. Angreifende manipulieren die Trainingsdaten solcher Systeme oder nutzen auch selbst KI-Systeme als Angriffswaffen. So können Angreifende eine Firma wiederholt angreifen und das System dadurch besonders gut trainieren. Wechselt der Angreifende das Ziel und attackiert dann ein anderes Unternehmen, kann das trainierte System vielfach ausgeklügelter vorgehen. Um der Verwendung von KI als Angriffswaffe entgegenzuwirken, empfehlen die Teilnehmer des Eberbacher Gesprächs die Entwicklung eines nachprüfbaren Code of Conduct. Die »Eberbacher Gespräche« des Fraunhofer SIT bieten ein Forum für diesen Dialog. Experten aus Wissenschaft, Wirtschaft und Verwaltung treffen sich für jeweils einen Tag und erarbeiten für ein Thema gemeinsam Antworten auf diese Fragen.

    „KI kann in der Cybersicherheit kann wesentlich dazu beitragen, auf aktuelle und zukünftige Bedrohungen in Wirtschaft und Gesellschaft geeignet zu reagieren. Eine Voraussetzung dafür ist, dass die Systeme und ihre Leistungen technisch bewertbar bleiben und spezifische Mindestanforderungen für unterschiedliche Branchen und Anwendungsfelder entwickelt werden“, sagt Prof. Michael Waidner, Leiter des Fraunhofer-Instituts für Sichere Informationstechnologie und ATHENE-Direktor.


    Wissenschaftliche Ansprechpartner:

    Prof. Dr. Martin STeinebach


    Anhang
    attachment icon Eberbacher Gespräch "AI, Security & Privacy"

    Merkmale dieser Pressemitteilung:
    Journalisten, Wirtschaftsvertreter, jedermann
    Gesellschaft, Informationstechnik, Recht, Wirtschaft
    überregional
    Forschungs- / Wissenstransfer, Forschungsergebnisse
    Deutsch


    Der Projektbericht skizziert Herausforderungen und Handlungsempfehlungen zur Nutzung künstlicher Intelligenz in der Cybersicherheit.


    Zum Download

    x

    Hilfe

    Die Suche / Erweiterte Suche im idw-Archiv
    Verknüpfungen

    Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.

    Klammern

    Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).

    Wortgruppen

    Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.

    Auswahlkriterien

    Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).

    Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).

    Cookies optimieren die Bereitstellung unserer Dienste. Durch das Weitersurfen auf idw-online.de erklären Sie sich mit der Verwendung von Cookies einverstanden. Datenschutzerklärung
    Okay