idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Generative Künstliche Intelligenz (KI) verändert unsere Gesellschaft in rasantem Tempo. Systeme wie ChatGPT, Gemini oder DeepSeek erstellen realistisch wirkende Bilder, komponieren Musik und führen menschenähnliche Gespräche. Generative KI prägt damit nicht nur, wie wir arbeiten, lernen und kommunizieren, sondern auch, wie wir als Gesellschaft Wissen, Kreativität und Verantwortung verstehen. Zugleich entstehen ethische Fragen: Wie bleibt menschliche Kompetenz zentral? Wie sichern wir Authentizität und Vertrauen, wenn KI-Inhalte täuschend echt wirken? Eine neue Broschüre der Plattform Lernende Systeme bietet Orientierung und zeigt Wege für einen verantwortungsvollen Umgang mit KI.
Die von den Herstellern mit generativen KI verbundenen Versprechungen scheinen nahezu allumfassend: Von der Steigerung der Produktivität, der Optimierung von Lieferketten und Fortschritten im Medizinbereich über die Lösung globaler Probleme wie dem Klimawandel, bis hin zu Erleichterungen im alltäglichen Leben. Generative KI nutzt dabei große Sprachmodelle, die Wahrscheinlichkeitsverteilungen über mögliche Ausgaben berechnen und daraus selbständig neue Ergebnisse generieren. In den letzten Jahren hat diese Entwicklung große Fortschritte gemacht. Doch der Einsatz von generativer KI geht auch einher mit Diskussion zu potenziellen Gefahren, wie etwa Cyber-Kriegsführung, Fake News oder einem möglichen Verlust der Kontrolle über autonome KI-Systeme – all das auch potenzielle Gefahren für demokratische Gesellschaften.
Eine zentrale Richtungsentscheidung bei der Entwicklung und Gestaltung von generativer KI besteht deshalb in der Frage, wie Sicherheit und Fortschritt gelingen können und wie generative KI inklusiv gestaltet werden kann, so dass alle gesellschaftlichen Akteure einbezogen werden. Zudem müssen die sich abzeichnenden zentralen Spannungsfelder frühzeitig identifiziert werden. Um eine wertorientierte Entwicklung zu unterstützen, müssen die teils widerstreitenden Interessen und Erwartungen gesellschaftlich verhandelt und bewertet werden. Damit generative KI verantwortungsvoll genutzt werden kann, braucht es klare Regeln, ethische Leitplanken, transparente Nutzung und ein Bewusstsein für soziale Folgen. Der Blick auf mögliche Zukunftsszenarien und Spannungsfelder hilft, frühzeitig zu gestalten, statt nur zu reagieren.
Aktive Gestaltung und Partizipation sind unerlässlich
„Menschliche Expertise und die Fähigkeit zur kritischen Beurteilung und Korrektur von generierten Inhalten ist unverzichtbar. Wir müssen darauf achten, dass generative KI und menschliche Expertise sinnvoll in einem Co-Creations-Prozess zusammenspielen, um die Zuverlässigkeit und Qualität von generierten Inhalten sicherzustellen“, betont Prof. Dr. Ute Schmid, Otto-Friedrich-Universität Bamberg und Mitglied der Plattform Lernende Systeme.
Für Unternehmen wie die Gesellschaft bedeutet dies, nicht nur rechtliche Vorgaben zu beachten, sondern sich auch aktiv mit der Frage auseinanderzusetzen, welche Ziele und Grenzen bei der Entwicklung und für den Einsatz von generativer KI gesetzt werden sollten. Seitens der Forschung sind Tools und Methoden zu entwickeln, die generative KI hinsichtlich dieser Kriterien und Prüfungsansätze bewerten und zertifizieren können. Hier werden Ansätze wie werteorientierte Technikgestaltung Ethics by Design mit technischen Prüfverfahren kombiniert.
Um Desinformation zu minimieren, gilt es Inhalte stets kritisch zu hinterfragen, Quellen auf Vertrauenswürdigkeit zu überprüfen und im Zweifelsfall fragwürdige Inhalte nicht weiterzuleiten oder zu teilen. Konkret bedeutet das: Für eine erfolgreiche Gestaltung der Zukunft mit generativer KI muss eine Ausgewogenheit gefunden werden, zwischen dem, was die Nutzenden leisten müssen – Entwicklung von Daten- und KI-Kompetenz – und dem, wie die Technologie entwickelt und konzipiert werden muss – nach Prinzipien wie beispielsweise Erklärbarkeit und Transparenz.
Während generative KI als Allzweck-Technologie viele Prozesse im täglichen sowie beruflichen Leben vereinfachen und neue kreative Wege eröffnen kann, gilt es gleichzeitig, den verantwortungsvollen und sicheren Umgang mit dieser Technologie zu fördern. Eine verantwortungsvolle Entwicklung generativer KI erfordert ein ausgewogenes Zusammenspiel von Sicherheit, Fortschritt und Partizipation. Menschzentrierte Anwendungen, Forschung zu sicherer und transparenter KI sowie demokratische Entscheidungsprozesse können dazu beitragen, Innovation im Sinne des Gemeinwohls zu gestalten.
Über die Broschüre
Die Broschüre „Zukunft gestalten: Generative KI und ihre gesellschaftlichen Folgen“ steht zum kostenfreien Download zur Verfügung.
Über die Plattform Lernende Systeme
Die Plattform Lernende Systeme ist ein Netzwerk von Expertinnen und Experten zum Thema Künstliche Intelligenz (KI). Sie bündelt vorhandenes Fachwissen und fördert als unabhängiger Makler den interdisziplinären Austausch und gesellschaftlichen Dialog. Die knapp 200 Mitglieder aus Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen Positionen zu Chancen und Herausforderungen von KI und benennen Handlungsoptionen für ihre verantwortliche Gestaltung. Damit unterstützen sie den Weg Deutschlands zu einem führenden Anbieter von vertrauenswürdiger KI sowie den Einsatz der Schlüsseltechnologie in Wirtschaft und Gesellschaft. Die Plattform Lernende Systeme wurde 2017 vom Bundesforschungsministerium auf Anregung von acatech – Deutsche Akademie der Technikwissenschaften gegründet und wird von einem Lenkungskreis gesteuert. Die Leitung der Plattform liegt bei Dorothee Bär (Bundesministerin für Forschung, Technologie und Raumfahrt) und Claudia Eckert (Präsidentin acatech).
https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/Zukunft_... - Broschüre „Zukunft gestalten! Mit generativer KI.“
Cover Broschüre
Copyright: Plattform Lernende Systeme
Merkmale dieser Pressemitteilung:
Journalisten, jedermann
Elektrotechnik, Gesellschaft, Informationstechnik, Philosophie / Ethik, Wirtschaft
überregional
Forschungs- / Wissenstransfer, Wissenschaftliche Publikationen
Deutsch
Cover Broschüre
Copyright: Plattform Lernende Systeme
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
