idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Ab August 2026 tritt eine EU-weite KI-Verordnung in Kraft, die zur Kennzeichnung KI-generierter Inhalte verpflichtet. Ein Forschungsteam der Universität Bayreuth und der Aalto University in Helsinki, Finnland, hat jedoch herausgefunden, dass sich Nutzende von KI-Systemen bereits nach nur einer Woche nicht mehr zuverlässig daran erinnern, ob erstellte Inhalte KI-generiert sind oder nicht. Über ihre Erkenntnisse haben die Forschenden auf der international wichtigsten und größten Konferenz im Fachbereich Human-Computer Interaction, der CHI, berichtet.
---
What for?
Interaktive und generative KI-Systeme werden immer häufiger bei kreativer Arbeit wie dem Ideensammeln oder Schreiben von Texten verwendet. Soll die KI-Nutzung später offengelegt werden, wie es die EU-Verordnung ab August 2026 für Inhalte für geschäftliche Zwecke fordert, ist eine korrekte Erinnerung an die Entstehung der Inhalte unabdingbar. Die Ergebnisse der Bayreuther Studie hat Konsequenzen für den Umgang von Einzelpersonen mit KI sowie für die Gestaltung von KI-Systemen und Vorgaben zur KI-Kennzeichnung.
---
Ob Zusammenfassungen, Social-Media-Captions, Infografiken, Bildbearbeitung, Slogans oder Denkanstöße – inzwischen ist die digitale Welt voll von KI. Um Täuschungen zu vermeiden und Nutzende transparent über den Ursprung von Inhalten zu informieren, gilt ab diesem Sommer eine Kennzeichnungspflicht für Inhalte, die für die Öffentlichkeit bestimmt sind. „Nach nur einer Woche kommt es allerdings bereits zu deutlichen Fehlerinnerungen, welche Ideen und Texte durch die KI entstanden sind und welche man selbst erzeugt hat“, sagt Tim Zindulka, Doktorand am Lehrstuhl Mobile Intelligent User Interfaces der Universität Bayreuth und Erstautor der Studie.
Insgesamt 184 Studienteilnehmende haben im Experiment Texte mit oder ohne Hilfe von KI entwickelt. Nach einer Woche wurden die Teilnehmenden zur Entstehung der Idee und Ausformulierung des Textes befragt. „Besonders auffällig waren Workflows, in denen menschliche und künstliche Intelligenz gemischt wurden, also wenn die Idee von der KI stammt, die Ausformulierung jedoch vom Mensch, und umgekehrt“, sagt Prof. Dr. Daniel Buschek, Inhaber des Lehrstuhls Mobile Intelligent User Interfaces an der Universität Bayreuth. Nach sieben Tagen sinkt die Wahrscheinlichkeit, sich korrekt ans Attribut „KI-generiert“ zu erinnern, auf 37,7 %, wenn eine KI-generierte Idee vom Mensch ausformuliert wurde. Umgekehrt besteht eine 64 %-ige Wahrscheinlichkeit, eine eigene Idee nach einer Woche korrekt als solche zu erkennen, wenn man sie anschließend von einer KI hat ausformulieren lassen.
„Unsere Studie zeigt auf, dass eine rückwirkende Befragung zur Entstehung von Inhalten nicht zu realistischen Ergebnissen führt. Als Einzelperson im Umgang mit KI eignet man sich gegebenenfalls KI-Ideen als eigene an oder traut sich umgekehrt eventuell selbst weniger zu als gerechtfertigt, weil man eine eigene Idee fälschlicherweise als KI-generiert erinnert“, sagt Zindulka und weiter: „Diese Ergebnisse sollten auch in der Gestaltung von KI-Systemen sowie in den Vorgaben zur KI-Kennzeichnung bedacht werden. Beispielsweise im universitären Kontext ist es unrealistisch, von Studierenden rückwirkend durch Erinnerung eine Offenlegung zu Details von KI-Nutzung bei Hausarbeiten zu erwarten. Sinnvoller ist es hier, von Anfang an den Entstehungsprozess von Inhalten mitzudokumentieren.“
Die Studie ist in Zusammenarbeit mit der Aalto University in Helsinki, Finnland, entstanden und wurde von der Deutschen Forschungsgemeinschaft (DFG; Projektnummer 525037874) gefördert.
Prof. Dr. Daniel Buschek
Mobile Intelligent User Interfaces
Universität Bayreuth
Tel.: +49 (0)921 /55-7775
E-Mail: daniel.buschek@uni-bayreuth.de
The AI Memory Gap: Users Misremember What They Created With AI or Without. Tim Zindulka et al. CHI ´26 Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (2026)
DOI: https://doi.org/10.1145/3772318.3791494
Criteria of this press release:
Journalists, Scientists and scholars, Students, all interested persons
Information technology
transregional, national
Research projects, Scientific Publications
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
