idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Sprachmodelle basierend auf künstlicher Intelligenz wie ChatGPT interagieren mit Nutzerinnen und Nutzern im Dialog und geben vertrauenswürdig erscheinende Antworten. Doch sind die Auskünfte immer richtig? Unabhängig von Auftraggebern und finanziert von privaten Spenden befasst sich das Öko-Institut in seinem neuen Spendenprojekt mit den spezifischen Risiken, aber auch mit den Chancen der neuen Sprachmodelle auf Basis künstlicher Intelligenz (KI).
Falschen Informationen entgegenwirken
Wenn KI-Sprachmodelle trainiert werden, werten sie große Text- und Datenmengen aus. Insbesondere beim Sprachmodell ChatGPT war es offenkundig das primäre Entwicklungsziel, dass es auf jede Frage eine Antwort gibt, die Qualität der Antwort ist nachrangig. Die Antworten können also plausibel klingen, aber keine faktische Basis haben. So wird es für Laien schwer, Fakten und Fiktion zu unterscheiden. Desinformationskampagnen, insbesondere im Klimaschutzbereich, nehmen zu und können durch die Werkzeuge der künstlichen Intelligenz erleichtert werden.
„Hier liegt eine große Gefahr, falsche Informationen können sich in der Gesellschaft negativ auf die Akzeptanz von Maßnahmen und Instrumenten zum Klimaschutz auswirken“, sagt Carl-Otto Gensch, Projektleiter am Öko-Institut. Bei der Faktentreue der Antworten setzt das neu gestartete Projekt an. Dort soll eine Methode entwickelt werden, um Antworttexte von KI-Sprachmodellen zu wichtigen Themen des Umwelt- und Klimaschutzes zu prüfen und auf ihre Faktentreue hin zu bewerten.
Einfacher Zugang zu Informationen
Außerdem analysiert das Projekt, wie sich die Faktentreue der Antworten über einen bestimmten Zeitraum verändert und wie sehr sie von wohl formulierten Eingabetexten, also den „prompts“, abhängt. Zudem wird untersucht, ob umweltrelevante Informationen mit Hilfe der KI-Sprachmodelle einfacher zugänglich sind. Und: Wie werden diese Modelle bereits in der Wissensaufbereitung und -vermittlung genutzt?
„Besonders hier sind faktenbasierte Informationen erforderlich, da das die Schnittstelle zwischen wissenschaftlicher Forschung und Kommunikation in die Öffentlichkeit ist“, gibt der Leiter des Bereichs Produkte & Stoffströme am Öko-Institut zu bedenken. „Das ist aber auch die große Chance von KI. Komplexe Informationen zu Umweltthemen können in verschiedenen Sprachstilen leicht aufbereitet werden und sind so für alle Menschen leicht zugänglich.“
Anschließend an die Analyse leitet das Projektteam politische Empfehlungen ab: Wie sollte ein regulatorischer Rahmen aussehen, um den möglichen Risiken zu begegnen aber auch die Chancen durch KI-Sprachmodelle zu erhöhen?
Spendenprojekte ermöglichen auftragsfreie, unabhängige Forschung am Öko-Institut. In diesen Projekten untersuchen die Wissenschaftlerinnen und Wissenschaftler wichtige Grundlagen der nachhaltigen Transformation, die unser gesellschaftliches Miteinander bestimmen und geben der Politik Handlungsempfehlungen für sozial gerechte und ökologisch sinnvolle Richtungsänderungen an die Hand.
Zum Spendenformular des Öko-Instituts mit weiteren Informationen zum Spendenprojekt „Schreiben mit künstlicher Intelligenz – Fakten oder Fiktion? Chancen und Risiken von KI-Sprachmodellen: Wie einfach ist es für Nutzer*innen, verlässliche Informationen zu Klima- und Umweltschutzthemen zu erhalten?“ (https://www.oeko.de/spendenprojekt2023)
Das Öko-Institut ist eines der europaweit führenden, unabhängigen Forschungs- und Beratungsinstitute für eine nachhaltige Zukunft. Seit der Gründung im Jahr 1977 erarbeitet das Institut Grundlagen und Strategien, wie die Vision einer nachhaltigen Entwicklung global, national und lokal umgesetzt werden kann. Das Institut ist an den Standorten Freiburg, Darmstadt und Berlin vertreten.
www.oeko.de | Podcast | blog.oeko.de | Twitter | Instagram | Onlinemagazin
Ansprechpartner am Öko-Institut
Carl-Otto Gensch
Leiter des Institutsbereichs
Produkte & Stoffströme
Öko-Institut e.V., Geschäftsstelle Freiburg
Telefon: +49 761 45295-241
E-Mail: c.gensch@oeko.de
Pressemitteilung Spendenprojekt KI Öko-Institut
Merkmale dieser Pressemitteilung:
Journalisten, jedermann
Energie, Gesellschaft, Informationstechnik, Meer / Klima, Umwelt / Ökologie
überregional
Buntes aus der Wissenschaft, Forschungsprojekte
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
