idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Zum EU AI Act: Rolf Backofen (Informatik), Oliver Müller (Philosophie) und Silja Vöneky (Rechtswissenschaften) von der Universität Freiburg über die adaptive Regulierung neuer Technologien
Voraussichtlich im Jahr 2024 soll das KI-Gesetz der EU (EU AI Act) in Kraft treten. Er unterscheidet verschiedene Systeme von künstlicher Intelligenz (KI) nach ihrem Risiko für die Menschen in der Europäischen Union (EU). Anwendungen von KI mit inakzeptablem Risiko dürften dann in der EU nicht genutzt oder vertrieben werden, solche mit hohem Risiko würden reguliert.
„Die verhältnismäßige Regulierung von künstlicher Intelligenz ist eine der großen Herausforderungen unserer Zeit im Bereich der neuen Technologien“, sagt die Rechtswissenschaftlerin Prof. Dr. Silja Vöneky. Sie begrüßt, dass die EU hier voranschreite, merkt aber gleichzeitig an, dass eine solche Regulierung „verhältnismäßig und auch hinreichend adaptiv“ sein müsse – das sei im EU AI Act noch nicht genug berücksichtigt. Adaptivität, also die schnelle Anpassungsfähigkeit an Chancen und Risiken bei neuen Technologien, steht im Mittelpunkt des gemeinsamen interdisziplinären Forschungsinteresses von Vöneky, dem Philosophen Prof. Dr. Oliver Müller und dem Bioinformatiker Prof. Dr. Rolf Backofen.
Bei der Regulierung, sagt Müller, seien eine Vielzahl rechtlicher und ethischer Rahmenbedingungen relevant, von Aspekten des Persönlichkeitsschutzes bis hin zur Frage, „inwiefern Chatbots gesellschaftliche Vorurteile reproduzieren“. Im Angesicht dieser Komplexität und sich rasant entwickelnder Technologien hinke die Regulierung derzeit weiter hinterher.
KI als wichtiges Werkzeug für adaptive Regulierung
In Hinblick auf Adaptivität könnte KI selbst ein wichtiges Werkzeug sein, sagt Backofen: „Bei einem sehr schnell agierenden System wie den Chatbots braucht es regulierende KI, die direkt auf Veränderungen reagieren kann.“ Die Geschwindigkeit bei der Bewertung neuer Technologien könne außerdem, so Müller, durch „interne Kohärenz“ erhöht werden, also dadurch, „dass wir nicht für jede neue Technologie von vorne anfangen müssen“. Denn KI ist zwar seit dem Markteintritt des Chatbots ChatGPT im öffentlichen Diskurs sehr präsent, aber nur eine der Emerging Technologies neben weiteren wie grüner Gentechnik und Gentherapie.
Risiken einhegen ohne Innovationen zu behindern
Bei der Regulierung geht es dabei nicht um die Verhinderung von Innovation. Vielmehr, so Backofen, „brauchen wir adaptive Regulierungen, damit wir die Vorteile der Technologien gut nutzen können.“ Hilfreich sei Regulierung laut Vöneky nämlich dann, wenn sie „einerseits schnell Risiken einhegt und andererseits das Innovationspotenzial nicht behindert“. Für eine solche verhältnismäßige Regulierung sei ein interdisziplinärer Ansatz entscheidend: „Wir können nicht sinnvoll über Normen und Gesetze diskutieren, wenn wir die Technologien nicht verstehen.“
Verantwortung universitärer Forschung für gesellschaftliche Debatten
In dieser interdisziplinären Zusammenarbeit liege eine Stärke der Universität Freiburg, so Vöneky. Außerdem könne ein „neutralerer Blick nur durch Forscher*innen gelingen, die kein unmittelbares Interesse daran haben, ein Produkt zu verkaufen. Es ist unsere Aufgabe, ein Bewusstsein für Chancen und Risiken zu schaffen, damit die gesellschaftlichen Debatten auf Grundlage fundierter Informationen geführt werden können.“ Gleichzeitig gebe es ein „Spannungsfeld zwischen den Erwartungen aus juristisch-ethischer Perspektive an Normen und Werte auf der einen Seite und der öffentlichen Wahrnehmung auf der anderen, und diese können durchaus unterschiedlich ausfallen“, ergänzt Müller. Auf welche gesellschaftliche Resonanz das EU KI Gesetz treffen wird, bleibt abzuwarten – er wird aber zu einem Zeitpunkt in Kraft treten, zu dem sich in Silja Vönekys Wahrnehmung die Bevölkerung „stärker dessen bewusst wird, dass KI nicht nur eine nette App auf dem Smartphone ist, sondern auch größere disruptive Gefahren mit sich bringt“.
Rolf Backofen, Oliver Müller und Silja Vöneky stehen gerne für Medienanfragen zur Verfügung. Gemeinsam sind sie Sprecher*innen der Exzellenzcluster-Initiative Adaptive Futures. Weitere Informationen dazu sowie zur Freiburg Exzellenzstrategie insgesamt finden Sie hier: https://uni-freiburg.de/universitaet/themen-im-fokus/exzellenzstrategie/
Rolf Backofen
Professur für Bioinformatik
Albert-Ludwigs-Universität Freiburg
Tel.: 0761/203-7461
E-Mail: backofen@informatik.uni-freiburg.de
Oliver Müller
Professur für Philosophie mit Schwerpunkt Gegenwart und Technik
Albert-Ludwigs-Universität Freiburg
Tel.: 0761/203-2432
E-Mail: oliver.mueller@philosophie.uni-freiburg.de
Silja Vöneky
Professur für Völkerrecht, Rechtsvergleichung und Rechtsethik
Albert-Ludwigs-Universität Freiburg
Tel.: 0761/203-2206
E-Mail: svoeneky@jura.uni-freiburg.de
Rolf Backofen, Oliver Müller und Silja Vöneky.
Jürgen Gocke
Universität Freiburg
Criteria of this press release:
Journalists
Information technology, Law, Philosophy / ethics
transregional, national
Transfer of Science or Research
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
