idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Ob bei Rettungseinsätzen, im Weltraum oder in der Tiefsee: Selbstlernende Roboter, die sich mit Hilfe von Künstlicher Intelligenz (KI) in unbekannten Situationen zurechtfinden, können den Menschen künftig bei Tätigkeiten in gefährlichen Umgebungen unterstützen. Dabei müssen die KI-Systeme einerseits so autonom wie möglich agieren, damit Menschen in sicherem Abstand zur Gefahrenzone bleiben können. Andererseits muss der Mensch in problematischen Situationen jederzeit in das Geschehen eingreifen können. Notwendig dafür sind Roboter, die den Grad ihrer Autonomie während eines Einsatzes flexibel an die vorgefundene Lage anpassen. Ein Whitepaper der Plattform Lernende Systeme zeigt wie das geht.
München, 18. Februar 2021 – KI-Systeme und selbstlernende Roboter arbeiten schon heute in vielen Bereichen mit den Menschen zusammen. In der Industrieproduktion oder beim automatisierten Fahren wird bereits während der Entwicklung des KI-Systems für verschiedene Aufgaben ein bestimmter Autonomiegrad festgeschrieben. Wie die Arbeitsteilung zwischen Mensch und KI-System aussieht und wie selbstständig das System agiert, hängt dabei von seinen Fähigkeiten, der Art der Aufgabe und der Umgebung ab.
Anders als in den stark geregelten Anwendungsbereichen Mobilität und Industrie ist der Einsatz eines selbstlernenden Systems bei Naturkatastrophen oder Löscharbeiten im Vorfeld schwerer zu planen. Diese sogenannten lebensfeindlichen Umgebungen sind sehr vielfältig und in der Regel unbekannt. Einsätze hier hätten eine hohe Variabilität, verbunden mit sehr unterschiedlichen Anforderungen an die Autonomie in der jeweiligen Situation, heißt es in dem Whitepaper. Als Faustregel nennen die Autoren des Whitepapers: mangelnde Kompetenz des Systems bedeutet immer einen erhöhten Eingriff durch den Menschen, bis hin zur Fernsteuerung des Systems.
„Beim Einsatz selbstlernender Roboter in lebensfeindlichen Umgebungen gilt: soviel Autonomie wie möglich, so wenig menschlicher Eingriff wie nötig. Das KI-System kann den Menschen nur dann vor Gefahren schützen, wenn es seine Aufgaben eigenständig und zuverlässig erledigt. Andererseits ergeben sich in gefährlichen Umgebungen schnell unvorhersehbare Situationen, in denen der Mensch ins Geschehen eingreifen können muss, zum Beispiel bei der Entscheidung, welches Brandopfer zuerst geborgen wird“, sagt Mitautor Jürgen Beyerer, Leiter der Fraunhofer Instituts für Optronik, Systemtechnik und Bildauswertung (IOSB), Professor für Interaktive Echtzeitsysteme am Karlsruher Institut für Technologie (KIT) sowie Leiter der Arbeitsgruppe Lebensfeindliche Umgebungen der Plattform Lernende Systeme.
Variable Autonomiegrade ermöglichen Anpassung an unvorhersehbare Situation
Neben ethisch problematischen Fragen können auch rechtlich unklare Situationen entstehen, oder der autonome Roboter benötigt technische Unterstützung, etwa weil er sich festgefahren hat. Um diese besonderen dynamischen Anforderungen lebensfeindlicher Umgebungen an autonome Systeme zu meistern, müssen die Systeme in der Lage sein, den Grad ihrer Autonomie während des Einsatzes an die jeweilige Situation anzupassen. Oder der Mensch muss diesen anpassen. Statt der in anderen Einsatzbereichen etablierten starren Konzepte für Autonomiestufen seien für den Einsatz von selbstlernenden Systemen in lebensfeindlichen Umgebungen variable und kontinuierlich veränderbare Autonomiegrade während der Einsatzzeit umzusetzen, empfehlen die Autoren.
In einer gelungenen Zusammenarbeit mit dem autonomen System sollte der Mensch dessen Einsatz möglichst nicht Schritt für Schritt mitverfolgen müssen. Vielmehr soll er durch die Arbeitsteilung mit dem Roboter Zeit gewinnen, um wichtigere Aufgaben zu erledigen. Deshalb ist es erstrebenswert, dass autonome Systeme den Menschen selbstständig und zuverlässig dann informieren und involvieren, wenn sie auf Probleme treffen, die sie selbst nicht lösen können und deshalb Hilfe, Teleoperation oder Entscheidungen durch den Menschen anfordern.
„Damit Lernende Systeme in lebensgefährlichen Umgebungen, wie beim Katastropheneinsatz oder auch bei Weltraum-Missionen, angemessen einsatzfähig sind, ist nicht alleine die Autonomie von Bedeutung, sondern auch der jeweilige Kontext der Handlung im Zusammenspiel mit der Kompetenz des Systems. Die Entscheidung zum richtigen Grad an Autonomie muss diese Faktoren berücksichtigen. Wenn Lernende Systeme diese Entscheidung selbst vornehmen sollen, beispielsweise auch um den Autonomiegrad eigenständig anzupassen, müssen wir Systeme entwickeln, die ihre Kompetenzen analysieren und in Bezug zur Handlung setzen können. Damit versetzen wir sie dann auch in die Lage einschätzen zu können, ob ihre Kompetenzen zur Lösung eines Problems ausreichen oder die Unterstützung durch den Menschen erforderlich ist“, sagt Mitautor Sirko Straube vom Deutschen Forschungszentrum für Künstliche Intelligenz in Bremen, Mitglied der Arbeitsgruppe Lebensfeindliche Umgebungen der Plattform Lernende Systeme.
Aktuell besitzen autonome Systeme in gefährlichen Umgebungen noch nicht die Fähigkeit, ihre Lage selbstständig einzuschätzen und mit ihren Kompetenzen abzugleichen. Hier besteht erheblicher Forschungsbedarf. Zum gegenwärtigen Zeitpunkt werden Einsätze autonomer Systeme niemals ohne den Menschen als Überwacher stattfinden. Auch in Zukunft bleibe der Mensch die übergeordnete Instanz, die im Zweifel immer die Letztentscheidung behält, so die Autoren.
Über das Whitepaper
Das Whitepaper „Kompetent im Einsatz. Variable Autonomie Lernender Systeme in lebensfeindlichen Umgebungen“ wurde von Experten der Arbeitsgruppe Lebensfeindliche Umgebungen der Plattform Lernende Systeme verfasst. Es steht auf der Webseite der Plattform zum kostenfreien Download zur Verfügung.
Wie Lernende Systeme in Zukunft Einsatzkräfte unterstützen können, veranschaulichen die Anwendungsszenarios „Schnelle Hilfe beim Rettungseinsatz“ und „Unter Wasser autonom unterwegs“ der Plattform Lernende Systeme.
In einem Kurzinterview erklärt Mitautor Jürgen Beyerer ausführlich, wie sich die Anforderungen an variabel autonome Roboter umsetzen lassen und wo noch Forschungsbedarf besteht. Das Interview darf für redaktionelle Zwecke frei verwendet werden.
Über die Plattform Lernende Systeme
Die Plattform Lernende Systeme wurde 2017 vom Bundesministerium für Bildung und Forschung (BMBF) auf Anregung des Fachforums Autonome Systeme des Hightech-Forums und acatech gegründet. Sie vereint Expertinnen und Experten aus Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft aus dem Bereich Künstliche Intelligenz. In Arbeitsgruppen entwickeln sie Handlungsoptionen und Empfehlungen für den verantwortlichen Einsatz von Lernenden Systemen. Ziel der Plattform ist es, als unabhängiger Makler den gesellschaftlichen Dialog zu fördern, Kooperationen in Forschung und Entwicklung anzuregen und Deutschland als führenden Technologieanbieter für Lernende Systeme zu positionieren. Die Leitung der Plattform liegt bei Bundesministerin Anja Karliczek (BMBF) und Karl-Heinz Streibich (Präsident acatech).
https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG7_Whit...
https://www.plattform-lernende-systeme.de/anwendungsszenario-rettungseinsatz.htm... - Anwendungsszenario "Schnelle Hilfe beim Rettungseinsatz"
https://www.plattform-lernende-systeme.de/publikationen-details/unter-wasser-aut... - Anwedungsszenario "Unter Wasser autonom unterwegs"
https://www.plattform-lernende-systeme.de/id-3-fragen-an-newsreader/ki-in-gefaeh... - Interview mit Mitautor Jürgen Beyerer
Das Whitepaper "Kompetent im Einsatz" der Plattform Lernende Systeme
Plattform Lernende Systeme
Criteria of this press release:
Journalists
Economics / business administration, Information technology, Mechanical engineering
transregional, national
Scientific Publications, Transfer of Science or Research
German
Das Whitepaper "Kompetent im Einsatz" der Plattform Lernende Systeme
Plattform Lernende Systeme
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
