idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
(Düsseldorf, 21.05.2024) Der Mensch bleibt in der Verantwortung
Die EU-Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. VDI-Experte Dieter Westerkamp betont die Wichtigkeit der endgültigen Entscheidung und Verantwortung beim Menschen. Das ist vor allem für die ethischen Grundsätze des Ingenieurberufs unerlässlich.
Die EU hat heute endgültig das KI-Gesetz („AI-Act“) verabschiedet. Damit haben die EU-Staaten erstmals Regeln zur Nutzung von Künstlicher Intelligenz festgelegt. Es ist das erste Gesetz dieser Art in der Welt und kann einen globalen Standard für die Regulierung von KI setzen. Ein zentraler Punkt des Gesetzes sieht vor, dass KI-Systeme möglichst transparent, nachvollziehbar und nicht diskriminierend sind.
Ein wichtiger Aspekt dabei ist, dass die KI-Systeme von Menschen überwacht werden – nicht von technischen Systemen. Damit bleibt die endgültige Entscheidung und Verantwortung in Menschenhand. Dieser Punkt wird vom VDI eindeutig unterstützt. In seinen „Ethischen Grundsätzen des Ingenieurberufs“ aus dem Jahr 2021 stellt der VDI fordernd fest: „Ingenieurinnen und Ingenieure sind sich darüber bewusst, dass bei der Delegation operativer und strategischer Unterstützungs- und Entscheidungsleistungen an autonome KI-basierte Systeme die Verantwortung letztlich beim Menschen verbleiben muss.“ Dabei geht es nicht nur um die Künstliche Intelligenz selbst. „Wir müssen die Gesamtsysteme betrachten, in denen KI genutzt wird,“ sagt Dieter Westerkamp, Bereichsleiter Technik und Gesellschaft im Verein Deutscher Ingenieure. „Daher haben wir in unseren Ethischen Grundsätzen formuliert, dass Ingenieurinnen und Ingenieure gewährleisten, dass Entscheidungen von KI-Systemen stets nachvollziehbar und plausibel sind. Sie haben darüber hinaus eine Mitverantwortung für die systemischen Wirkungen – nicht nur des entwickelten Teilsystems selbst, sondern auch für dessen Auswirkungen in einem Gesamtsystem bzw. Netzwerk.“
Der VDI hatte das Aufkommen der breiten KI-Nutzung und autonomer Systeme zum Anlass genommen, seine Ethische Grundsätze daraufhin zu überarbeiten und zu ergänzen.
Unabhängig davon sieht der VDI die großen Chancen, die Technologien auf der Basis von Künstlicher Intelligenz bieten. Wir müssen hier unbedingt am Ball bleiben, um zukünftig auch weiterhin auf dem Weltmarkt wettbewerbsfähige Produkte und Dienstleistungen mit integrierter KI anbieten zu können. "Gut ist, dass wir in Deutschland im Hinblick auf die Anzahl von Patenten aktuell weltweit auf dem zweiten Platz liegen. Nun gilt es, auf dieser Basis geeignete Produkte und Dienstleistungen zu entwickeln, die das KI-Gesetz erfüllen", so Westerkamp.
Eine weitere technische Standardisierung für KI ist notwendig. Sie wird folgen und für Transparenz in der Nutzung von KI sorgen.
Dieter Westerkamp ist KI-Experte und hat unter anderem schon in Podcasts zu diesem Thema gesprochen. Wie KI sich im Ingenieurwesen auswirkt, können Sie hier hören. https://podcasts.apple.com/de/podcast/3-ki-im-ingenieurwesen-mit-dieter-westerka...
https://www.vdi.de/fileadmin/pages/mein_vdi/redakteure/publikationen/VDI_Ethisch...
Criteria of this press release:
Journalists
Economics / business administration, Information technology
transregional, national
Science policy
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
