idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instance:
Share on: 
11/29/2023 11:47

Gefährliche Pattsituation: KI- und menschengenerierte Online-Inhalte gelten als ähnlich glaubwürdig

Petra Giegerich Kommunikation und Presse
Johannes Gutenberg-Universität Mainz

    Studie der Hochschule Mainz und der JGU zeigt, dass KI-generierten Inhalten eine größere Klarheit und Anziehungskraft zugesprochen wird

    In einer Zeit, in der das Internet für viele Menschen zur Hauptquelle von Informationen geworden ist, hat die Glaubwürdigkeit von Online-Inhalten und deren Quellen einen kritischen Wendepunkt erreicht. Diese Besorgnis wird durch die Verbreitung von Anwendungen generativer künstlicher Intelligenz (KI) wie ChatGPT und Google Bard verstärkt. Im Gegensatz zu traditionellen Plattformen wie Wikipedia, deren Inhalte von Menschen erstellt und betreut werden, erzeugen diese KI-gesteuerten Systeme die Inhalte eigenständig – oft mit Fehlern. Eine kürzlich veröffentlichte Studie, gemeinsam durchgeführt von Forschern der Hochschule Mainz und der Johannes Gutenberg-Universität Mainz (JGU), widmet sich der Frage, wie Nutzer die Glaubwürdigkeit von KI-generierten Inhalten und von Menschen erstellten Inhalten auf verschiedenen Benutzeroberflächen beurteilen. Die Studie umfasst mehr als 600 englischsprachige Teilnehmerinnen und Teilnehmer.

    Prof. Dr. Martin Huschens, Professor für Wirtschaftsinformatik an der Hochschule Mainz und einer der Autoren der Studie, betont: „Unsere Studie enthüllte einige wirklich überraschende Erkenntnisse. Es zeigte sich, dass die Teilnehmer unserer Studie KI-generierte und menschengenerierte Inhalte als ähnlich glaubwürdig einschätzen und zwar unabhängig von der Benutzeroberfläche." Er fügte hinzu: „Noch faszinierender ist, dass die Teilnehmer KI-generierten Inhalten eine höhere Klarheit und Anziehungskraft zusprachen, obwohl es keine signifikanten Unterschiede in Bezug auf die wahrgenommene Nachrichtenkompetenz und Vertrauenswürdigkeit gab – und das obwohl KI-generierte Inhalte nach wie vor ein hohes Risiko für Fehler, Missverständnisse und halluzinatorisches Verhalten aufweisen."

    Die Studie wirft ein Schlaglicht auf den aktuellen Stand der Wahrnehmung und Nutzung KI-generierter Inhalte und die damit verbundenen Gefahren. Im digitalen Zeitalter, in dem Informationen leicht verfügbar sind, müssen Nutzerinnen und Nutzer über Unterscheidungsvermögen und kritisches Denken verfügen. Die Balance zwischen der Bequemlichkeit von KI-gesteuerten Anwendungen und verantwortungsbewusster Informationsnutzung ist entscheidend. Mit zunehmender Verbreitung von KI-generierten Inhalten müssen Nutzer sich der Grenzen und der inhärenten Vorurteile in diesen Systemen bewusst bleiben.

    Prof. Dr. Franz Rothlauf von der Johannes Gutenberg-Universität Mainz sagt dazu: „Der Beitrag zeigt auf, dass im Zeitalter von ChatGPT Menschen nicht mehr zwischen Mensch und Maschine unterscheiden können. Da Maschinen allerdings nicht ‚wissen‘, sondern statistisch raten, brauchen wir zukünftig eine Kennzeichnungspflicht von maschinengeneriertem Wissen. Sonst können Menschen nicht mehr zwischen Fiktion und Wahrheit unterscheiden.“ Es bleibt außerdem eine Aufgabe der Wissenschaftskommunikation und nicht zuletzt auch eine gesellschaftliche und politische Herausforderung, Nutzerinnen und Nutzer für eine verantwortungsvolle Verwendung von KI-generierten Inhalten zu sensibilisieren.

    Bildmaterial:
    https://download.uni-mainz.de/presse/03_wirtschaft_chatgpt_eingabemaske.jpg
    Eingabemaske bei ChatGPT
    Foto/©: Dominik Sobania und Louisa Schwarz

    Weiterführende Links:
    https://wi.bwl.uni-mainz.de/ - Wirtschaftsinformatik und BWL an der GSME
    https://wiwi.uni-mainz.de/ - Gutenberg School of Management & Economics (GSME)
    https://www.hs-mainz.de/hochschule/persoenliche-seiten/prof-dr-martin-huschens/p... - Martin Huschens an der Hochschule Mainz


    Contact for scientific information:

    Dr. Dominik Sobania
    Wirtschaftsinformatik
    Gutenberg School of Management and Economics
    Johannes Gutenberg-Universität Mainz
    55099 Mainz
    Tel. +49 6131 39-29452
    E-Mail: dsobania@uni-mainz.de
    https://wi.bwl.uni-mainz.de/dominik-sobania/


    Original publication:

    Martin Huschens et al.
    Do You Trust ChatGPT? – Perceived Credibility of Human and AI-Generated Content
    arXiv, 5. September 2023
    DOI: 10.48550/arXiv.2309.02524
    https://arxiv.org/abs/2309.02524


    Images

    Criteria of this press release:
    Journalists, Students, Teachers and pupils, all interested persons
    Economics / business administration, Information technology, Law, Politics, Teaching / education
    transregional, national
    Research results, Scientific Publications
    German


     

    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).