idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Ziel von »KIRR Real: Reallabor für rechtskonforme KI und Robotik« des Fraunhofer IPA und der ARENA2036 war, Unternehmen in Baden-Württemberg bei der Umsetzung des EU AI Acts sowie der ab 2027 geltenden EU-Maschinenverordnung zu unterstützen. Die Ergebnisse der Zusammenarbeit mit 15 Unternehmen sind jetzt veröffentlicht und dienen Unternehmen mit ähnlichen Anwendungen zur Orientierung für die rechtssichere Entwicklung von KI- und Robotikanwendungen.
Die Zeit drängt, wenn es um aktuelle Regulatorik geht: Am 2. August 2027 treten die Verpflichtungen für Hochrisiko-KI-Systeme als Sicherheitskomponente in Kraft und der gesamte EU AI Act findet Anwendung. Auch die neue EU-Maschinenverordnung legt ab Januar 2027 neue Anforderungen für sicherheitsrelevante KI und selbstlernende Systeme fest.
Regulatorische und technische Beratung für Unternehmen
KIRR Real half Unternehmen dabei, diese komplexen regulatorischen Anforderungen zu verstehen und umzusetzen. Hierfür wurden »Legal Quick Checks« angeboten, also kurze kompakte Beratungsprojekte. Eine Anwaltskanzlei stufte diese Fälle in eine der vier Risikoklassen des AI Acts ein (von minimalem bis unannehmbarem Risiko). Anschließend prüfte das Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA die technische Dokumentation und zugrundeliegenden Konzepte der KI-Entwicklung, um die Rechtskonformität der Systeme zu evaluieren und praxisnahe Handlungsempfehlungen zu erarbeiten.
Das Projekt lief vom 15. November 2024 bis 31. Dezember 2025 und wurde vom Ministerium für Wirtschaft, Arbeit und Tourismus Baden-Württemberg gefördert. Im Konsortium arbeiteten das Fraunhofer IPA und der Forschungscampus ARENA2036 zusammen und wurden von mehreren assoziierten Partnern begleitet. Zentrale Anliegen des Projekts waren, zu untersuchen, wie gut die Unternehmen in Baden-Württemberg auf den AI Act und die Maschinenverordnung vorbereitet sind, wie die beiden Verordnungen zusammenspielen und sich überlagern und wo es noch Hürden in der KI-Regulierung gibt.
Die Erkenntnisse aus dem Projekt geben Impulse für eine praxistaugliche Umsetzung und Weiterentwicklung der KI-Regulierung und werden aktiv in den Gesetzgebungsprozess zurückgespiegelt, zum Beispiel durch die Teilnahme an Normungsgremien, einen regelmäßigen Austausch mit der Bundesnetzagentur, der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin und einen Workshop mit dem Bundesministerium für Arbeit und Soziales. Auch in die Ausgestaltung der vom AI Act vorgesehenen Reallabore sollen die Projektergebnisse einfließen.
Bewusstsein für regulatorische Anforderungen schaffen
Im Projektverlauf wurden 15 KI-Anwendungsfälle aus Bereichen wie Fertigung, humanoide Robotik, Gesundheitswesen und Personalmanagement bearbeitet. Sogar Unternehmen mit fortgeschrittener KI-Entwicklung hatten noch Unterstützungsbedarf bei der Umsetzung des AI Acts. In Gesprächen stellte sich ebenfalls heraus, dass das Bewusstsein für die kommenden Regulierungen oft nicht ausreicht. In der Anwendung des AI Acts wurde häufig entweder die rechtliche oder die technische Ebene betrachtet. Beide Aspekte und die frühzeitige Beschäftigung mit KI-Regulierung sind jedoch entscheidend für die erfolgreiche Anwendungsumsetzung.
Herausforderungen bei der Umsetzung der Rechtsakte
Besonders die Einordnung in Risikoklassen ist für Unternehmen herausfordernd. Diese Einordnung ist entscheidend für die Ressourcenplanung, jedoch manchmal nicht eindeutig bestimmbar, und hängt stark von den Details des Anwendungsfalls ab. Eine Orientierung an ähnlichen Fällen ist deshalb nicht immer möglich.
Das Fehlen der harmonisierten Standards hat zur Folge, dass mehr KI-Systeme eine Konformitätsprüfung durch Dritte durchlaufen müssen. Im Hinblick auf die Maschinenverordnung sehen viele Fachleute zudem Klärungsbedarf, was genau unter einem System mit „selbstentwickelndem Verhalten” zu verstehen ist.
Ein weiteres Thema ist die technische Umsetzung der Anforderungen. Viele Unternehmen treiben Fragen um wie: Wie müssen Nachweise erbracht werden? Wie umfangreich muss eine Dokumentation sein? Wann ist KI Teil einer Maschine? Auch der Umgang mit mehreren geltenden Regulierungen ist oft unklar und verursacht Angst vor unnötigem Mehraufwand. Zudem entwickeln viele Unternehmen KI-Systeme nicht vollständig selbst, sondern nutzen bestehende General-Purpose-AI-Modelle für ihre Anwendungen, was die Erbringung der erforderlichen Nachweise erschwert. Die verfügbaren Leitfäden und Hilfestellungen berücksichtigten diese Praxis bisher jedoch kaum.
Für die Integration von KI in Roboter und andere Maschinen steht mit der neuen Maschinenverordnung noch eine Herausforderung an: Unternehmen müssen neben der Beachtung der neuen Regeln für KI in Sicherheitsfunktionen in den nächsten zwölf Monaten auch ihre bestehenden Produkte an die neue Verordnung anpassen.
Handlungsempfehlungen aus dem Reallabor
Die Erfahrungen aus KIRR Real verdeutlichen, dass es zwar Unternehmen gibt, die sich mit den Verordnungen auseinandersetzen, dabei bereiten allerdings bestehende Unklarheiten, die Vielzahl an zu berücksichtigenden Regulierungen und das Fehlen der harmonisierten Standards Probleme.
Es besteht dringender Bedarf an konkreten, praxisnahen und leicht umsetzbaren Leitfäden sowie strukturierten Vorgehensweisen, die früh in der Entwicklung ansetzen. Insbesondere sind KI-Entwicklungsteams, unabhängig von der Unternehmensgröße, oft klein und haben Schwierigkeiten, die erforderlichen Aufwände zu bewältigen. Unterstützungsangebote (wie zum Beispiel Reallabore) sollten daher möglichst niederschwellig sein, um einen echten Mehrwert zu liefern. Unternehmen sollten ferner bereits in frühen Entwicklungsphasen Unterstützung erhalten, zum Beispiel durch die rechtliche Einschätzung eines Anwendungsfalls, Workshops oder Beratung während der Entwicklung eines Systems.
Das Fraunhofer IPA wird weiterhin die Erkenntnisse aus der Projektarbeit sammeln und aktiv in den Gesetzgebungsprozess einbringen sowie für die direkte Zusammenarbeit mit Unternehmen nutzen. Unternehmen können hierzu auf unsere Ansprechpersonen zurückkommen. Das Ziel bleibt, die KI-Regulierung praxisnah weiterzuentwickeln und Unternehmen in Baden-Württemberg optimal zu unterstützen.
Lena Lörcher | Telefon +49 711 970-1974 | lena.loercher@ipa.fraunhofer.de
Dr.-Ing. Theo Jacobs | Telefon +49 711 970-1339 | theo.jacobs@ipa.fraunhofer.de
https://www.kirr-real.de/ Projektwebseite
Beispielsweise das Thema Erklärbarkeit von KI mithilfe von Heatmaps kann zur regulatorisch konformen ...
Copyright: Fraunhofer IPA
Insbesondere Robotik im Einsatz ohne Schutzzaun bedarf besonderer Sicherheitsmaßnahmen.
Quelle: Rainer Bez
Copyright: Fraunhofer IPA
Pressemeldung als PDF
Merkmale dieser Pressemitteilung:
Journalisten, Wirtschaftsvertreter, Wissenschaftler
Maschinenbau, Recht
überregional
Forschungsprojekte
Deutsch
Beispielsweise das Thema Erklärbarkeit von KI mithilfe von Heatmaps kann zur regulatorisch konformen ...
Copyright: Fraunhofer IPA
Insbesondere Robotik im Einsatz ohne Schutzzaun bedarf besonderer Sicherheitsmaßnahmen.
Quelle: Rainer Bez
Copyright: Fraunhofer IPA
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
