idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
idw-Abo
Medienpartner:
Wissenschaftsjahr


Teilen: 
04.04.2019 14:09

Wettlauf um IT-Sicherheit: Plattform zeigt Chancen und Risiken von KI

Linda Treugut Geschäftsstelle
Lernende Systeme - Die Plattform für Künstliche Intelligenz

    Künstliche Intelligenz (KI) wird künftig die Sicherheit von IT-Systemen verbessern. In den Händen von Cyberkriminellen öffnet sie andererseits auch Einfallstore für neue Bedrohungen der IT-Sicherheit. Auch die KI-Systeme selbst müssen vor Manipulation geschützt werden. Die Dynamik zwischen IT-Sicherheit und KI analysiert das Whitepaper "Künstliche Intelligenz und IT-Sicherheit", das die Plattform Lernende Systeme zur Hannover Messe 2019 veröffentlicht. Die Autorinnen und Autoren aus Wirtschaft, Wissenschaft und Behörden fordern, insbesondere kleine und mittlere Unternehmen sowie IT-Fachkräfte beim Aufbau von Kompetenzen zu unterstützen.

    München, 04. April 2019 – Die Vernetzung im Zuge der Digitalisierung macht Unternehmen, öffentliche Institutionen und Smart Homes zunehmend verwundbar durch Cyberangriffe. KI-Systeme unterstützen IT-Fachkräfte künftig dabei, Sicherheitslücken aufzuspüren, Angriffe schneller zu erkennen und abzuwehren sowie die Identität von Personen sicherzustellen – etwa durch Erkennung von Sprache oder nutzerspezifische Tastatureingaben. Die Autoren des Whitepapers der Plattform Lernende Systeme betonen jedoch, dass die letzte Entscheidungsinstanz immer der Mensch sein müsse. So können KI-Systeme den Fachkräftemangel im Bereich IT-Sicherheit zwar milden, indem sie Routineaufgaben zur Prüfung der IT-Sicherheit übernehmen, menschliche Spezialisten aber nie ersetzen.

    "Zwischen Angreifern und Verteidigern der IT-Sicherheit entfacht die KI einen neuen Wettlauf. Unternehmen und Behörden müssen deshalb rasch entsprechende Kompetenzen aufbauen und in neue Technologien investieren. Auch die Ausbildung von IT-Fachkräften muss angepasst werden, um den Angreifern weiterhin einen Schritt voraus zu bleiben", fordert Jörn-Müller Quade, Leiter der Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ der Plattform Lernende Systeme und Inhaber des Lehrstuhls für Kryptographie und Sicherheit am Karlsruher Institut für Technologie (KIT).

    KI gibt auch den Angreifern neue Werkzeuge an die Hand, um Schwachstellen in IT-Systemen zu finden, ihre Schadprogramme zu optimieren und Authentifizierungsverfahren zu unterlaufen - indem sie beispielsweise Tippmuster imitieren. Besonders Social Engineering könnte zum Massenphänomen werden, also Angriffe, bei denen Menschen so getäuscht werden, dass sie dem Angreifer freiwillig Passwörter oder Bankdaten verraten. Benötigt man bislang Menschenkenntnis und Hintergrundwissen, um beispielsweise eine Phishing-Mail an den Stil des Absenders anzupassen und so zu tarnen, können KI-Systeme künftig hocheffizient online verfügbare Informationen sammeln, um etwa eine E-Mail auf die Zielperson einer Attacke zuzuschneiden.

    Auch KI-Systeme selbst können künftig Ziel von Hackern sein. Sensible Daten, beispielsweise in der Gesundheitsversorgung, gilt es vor Missbrauch zu schützen. Ebenso könnten Daten, die lernende Algorithmen verarbeiten, manipuliert werden. Dies kann zum Beispiel die Vorhersagen von KI-Anwendungen im Wertpapierhandel verfälschen oder autonome Fahrzeuge zu Fehlentscheidungen verleiten. Datenschutzerhaltende Lernalgorithmen und die Resilienz von KI-Systemen gegen Manipulation müssen deshalb noch intensiver erforscht werden.

    Das Whitepaper "KI und IT-Sicherheit" wurde von Expertinnen und Experten der interdisziplinären Arbeitsgruppe "IT-Sicherheit, Privacy, Recht und Ethik" der Plattform Lernende Systeme verfasst und steht unter https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/20190403... zum Download zur Verfügung.

    Über die Plattform Lernende Systeme

    Die Plattform Lernende Systeme wurde 2017 vom Bundesministerium für Bildung und Forschung (BMBF) auf Anregung des Fachforums Autonome Systeme des Hightech-Forums und acatech gegründet. Sie vereint Expertinnen und Experten aus Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft aus dem Bereich Künstliche Intelligenz. In Arbeitsgruppen entwickeln sie Handlungsoptionen und Empfehlungen für den verantwortlichen Einsatz von Lernenden Systemen. Ziel der Plattform ist es, als unabhängiger Makler den gesellschaftlichen Dialog zu fördern, Kooperationen in Forschung und Entwicklung anzuregen und Deutschland als führenden Technologieanbieter für Lernende Systeme zu positionieren. Die Leitung der Plattform liegt bei Bundesministerin Anja Karliczek (BMBF) und Karl-Heinz Streibich (Präsident acatech).


    Weitere Informationen:

    https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/20190403...


    Merkmale dieser Pressemitteilung:
    Journalisten
    Elektrotechnik, Informationstechnik, Maschinenbau, Politik, Wirtschaft
    überregional
    Forschungsergebnisse, Wissenschaftliche Publikationen
    Deutsch


    Neues Whitepaper "Künstliche Intelligenz und IT-Sicherheit" der Plattform Lernende Systeme


    Zum Download

    x

    Hilfe

    Die Suche / Erweiterte Suche im idw-Archiv
    Verknüpfungen

    Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.

    Klammern

    Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).

    Wortgruppen

    Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.

    Auswahlkriterien

    Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).

    Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).

    Cookies optimieren die Bereitstellung unserer Dienste. Durch das Weitersurfen auf idw-online.de erklären Sie sich mit der Verwendung von Cookies einverstanden. Datenschutzerklärung
    Okay