idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Unternehmen sollen KI verantwortungsvoll nutzen – das ist das Ziel der KI-Verordnung (AI Act). Mit diesem Gesetz hat die EU einheitliche Regeln für KI festgelegt, bei Verstößen drohen Strafen. Für viele Firmen sind die Vorschriften noch undurchsichtig, insbesondere für kleine und mittlere Unternehmen ohne eigene Rechtsabteilung. Im Forschungsprojekt „AI Act-Ready“ entwickeln das IPH und das Institut für Rechtsinformatik der Leibniz Universität Hannover gemeinsam einen Leitfaden, der die KI-Verordnung und die damit verbundenen Pflichten verständlich und praxisnah erklärt. Derzeit suchen die Wissenschaftler*innen nach produzierenden Unternehmen, die KI nutzen und zum Projekt beitragen wollen.
Von der Fertigung über die Qualitätskontrolle bis zum Vertrieb – in fast allen Unternehmensbereichen lassen sich Aufgaben mithilfe von Künstlicher Intelligenz (KI) deutlich schneller erledigen. Unternehmen können KI beispielsweise nutzen, um Angebote zu schreiben, um die Stromkosten zu reduzieren oder die Produktqualität zu verbessern. Auch in der Ausbildung kann KI zum Einsatz kommen – etwa um Berufsanfänger*innen individuelles Feedback zu ihrer Arbeit zu geben. All das sind keine Zukunftsvisionen, sondern aktuelle Anwendungsfälle aus Unternehmen in Niedersachsen .
Doch bei allen Vorteilen bringt KI auch Risiken mit sich. Um diese Risiken zu minimieren und sicherzustellen, dass Unternehmen verantwortungsvoll mit der Technik umgehen, hat die Europäische Union (EU) die KI-Verordnung erlassen – das erste Gesetz, das einheitliche Regeln für die KI-Nutzung festlegt.
Je höher das Risiko der KI, desto strenger sind die Vorschriften der EU
Die KI-Verordnung der EU teilt KI in vier verschiedene Risikoklassen ein.
KI-Systeme mit unannehmbarem Risiko hat die EU komplett verboten. Dazu gehört etwa das Social Scoring, mit dem Behörden oder Unternehmen menschliches Verhalten bewerten können – etwa, indem sie den öffentlichen Raum überwachen und mithilfe von KI versuchen, Straftaten vorherzusagen und Menschen präventiv festzunehmen. Weil derartige KI-Systeme in die Grundrechte von Menschen eingreifen, dürfen sie in der EU nicht zum Einsatz kommen.
Für KI-Systeme mit hohem Risiko gelten besonders strenge Anforderungen. Als hochriskant gilt jegliche KI, die Einfluss auf Menschen hat. Das ist beispielsweise der Fall, wenn Personalabteilungen KI nutzen, um Bewerbungen auszusortieren, oder wenn ein Hersteller von medizinischen Geräten KI nutzt, um Produktionsfehler zu erkennen. Die KI-Verordnung verpflichtet Unternehmen unter anderem, solche Systeme unter menschliche Aufsicht zu stellen und nur hochwertige Datensätze zu verwenden, um die KI zu trainieren.
Für KI-Systeme mit mittlerem Risiko gelten besondere Transparenzverpflichtungen. Nutzer*innen müssen deutlich darauf hingewiesen werden, dass sie es beispielsweise in der Kundenberatung mit einem Chatbot statt mit einem Menschen zu tun haben. Texte oder Bilder, die mithilfe von KI erzeugt wurden, müssen entsprechend gekennzeichnet werden – egal, ob es sich um einen Social-Media-Beitrag oder um eine mit KI geschriebene Bedienungsanleitung handelt.
Zu KI-Systemen mit minimalem Risiko zählen beispielsweise Spamfilter. Hier müssen Unternehmen keine speziellen Pflichten erfüllen – sie dürfen aber freiwillig zusätzliche Verhaltensregeln für die Nutzung aufstellen.
KI-Verordnung: Sinnvolles Risiko-Management oder Hindernis für Innovation?
„Ein verantwortungsvoller Umgang mit KI ist wichtig, die Regeln der EU sind also durchaus sinnvoll“ sagt Denise Wullfen, Wissenschaftliche Mitarbeiterin und KI-Expertin am IPH – Institut für Integrierte Produktion Hannover gGmbH. „Aber für Unternehmen ist das Regelwerk momentan noch schwer zu durchschauen.“ Die Hürde, KI zu nutzen, werde aus Angst vor Strafen noch höher – schließlich müssen Unternehmen, die gegen die KI-Verordnung verstoßen, bis zu 20 Millionen Euro Strafe zahlen. Vor allem kleine und mittlere Unternehmen (KMU) ohne eigene Rechtsabteilung hätten es momentan schwer, herauszufinden, was sie beim Einsatz von KI konkret beachten müssen, so Wullfen.
Auf die Nutzung von KI zu verzichten, um Strafen zu vermeiden, ist allerdings keine Lösung. Damit hätten Unternehmen einen großen Wettbewerbsnachteil gegenüber der Konkurrenz, die KI nutzt. Zudem müssen Unternehmen ihren Mitarbeiter*innen klare Vorgaben machen, sonst entsteht sogenannte Schatten-KI. „Tools wie Chat-GPT gehören für viele Menschen schon so sehr zum Alltag, dass die Versuchung groß ist, sie auch im Beruf zu nutzen“, sagt Wullfen. Unternehmen können das Thema nicht ignorieren, sondern müssen die KI-Nutzung entweder klar verbieten oder aber regulieren. Für beides brauchen Unternehmen eine KI-Richtlinie.
Jurist*innen und KI-Expert*innen starten gemeinsames Forschungsprojekt
Um KMU die rechtssichere Nutzung von KI zu ermöglichen, hat das IPH gemeinsam mit dem Lehrstuhl für Bürgerliches Recht und IT-Recht am IRI – Institut für Rechtsinformatik der Leibniz Universität Hannover das interdisziplinäre Forschungsprojekt „AI Act-Ready“ gestartet.
Gemeinsam erarbeiten die KI-Expert*innen und Jurist*innen zwei Hilfestellungen speziell für produzierende KMU. Zum einen schreiben die Forschenden einen Leitfaden, der Unternehmen verständlich und praxisnah den Weg durch die neuen KI-Vorschriften weisen soll. Zum anderen entwickeln sie einen Software-Demonstrator: Dieser soll Unternehmen helfen, herauszufinden, zu welcher Risikoklasse eine KI-Anwendung gehört, unter welchen Bedingungen sie genutzt werden darf und ob sich der Einsatz trotz aller Vorgaben und Risiken für das Unternehmen lohnt. Zudem können KMU den Software-Demonstrator nutzen, um eigenständig einen Entwurf für eine unternehmensindividuelle KI-Richtlinie zu erstellen.
Mit diesen Hilfestellungen wollen die Forschenden produzierenden KMU die Angst vor der KI-Verordnung nehmen – damit das Gesetz nicht zum Hindernis für Innovationen wird, sondern einen verlässlichen Rahmen bietet, um KI rechtssicher zu nutzen und wettbewerbsfähig zu bleiben.
Gesucht: Produzierende Unternehmen, die sich am Forschungsprojekt beteiligen wollen
Für das Forschungsprojekt suchen das IPH und das IRI noch produzierende KMU, die bereits KI nutzen oder den Einsatz von KI in naher Zukunft planen. Im Projektbegleitenden Ausschuss (PA) des Forschungsprojekts erhalten sie die Gelegenheit, sich mit den KI-Expert*innen und Jurist*innen über ihre konkreten Anwendungsfälle auszutauschen und herauszufinden, was sie konkret tun müssen, um die KI-Verordnung einzuhalten.
Unternehmen, die daran Interesse haben, melden sich bis zum 30. September 2025 bei Denise Wullfen unter der Telefonnummer +49 511 27976 442 oder per E-Mail an wullfen@iph-hannover.de.
Denise Wullfen, Wissenschaftliche Mitarbeiterin am IPH – Institut für Integrierte Produktion Hannover gGmbH, Telefon: +49 511 27976 442, wullfen@iph-hannover.de
Prof. Dr. Malte Kramme, Inhaber des Lehrstuhls für Bürgerliches Recht und IT-Recht am IRI – Institut für Rechtsinformatik, Telefon: +49 511 762 8159, malte.kramme@iri.uni-hannover.de
https://aiactready.iph-hannover.de Weitere Informationen zum Forschungsprojekt
Artificial Intelligence Act (AI Act): Mit diesem Gesetz – auf Deutsch: KI-Verordnung – reguliert die ...
Quelle: PhotoGranary – stock.adobe.com
Copyright: Nur zur redaktionellen Nutzung
Auf der sicheren Seite: KI-Expert*innen und Jurist*innen arbeiten gemeinsam an einem Leitfaden, der ...
Quelle: Sandwish – stock.adobe.com
Merkmale dieser Pressemitteilung:
Journalisten, Wirtschaftsvertreter
Informationstechnik, Recht
überregional
Forschungs- / Wissenstransfer, Forschungsprojekte
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
