idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
KI-Systeme greifen zunehmend in die Meinungsbildung ein – oft unbemerkt. Eine neue Studie zeigt nun, dass bestehende Gesetze wie der AI Act dafür kaum gewappnet sind. Die Ergebnisse wurden von Forschenden des Weizenbaum-Instituts im Fachjournal Communications of the ACM veröffentlicht.
Die großen Sprachmodelle hinter KI-Anwendungen fungieren zunehmend als „Gatekeeper“ von Informationen. Stefan Schmid, Principal Investigator am Weizenbaum-Institut, und Adrian Kuenzler von der University of Hong Kong (ehemals Fellow am Weizenbaum-Institut), untersuchten, inwiefern sie Vorurteile und diskriminierende Verzerrungen (Bias) transportieren, welche gesellschaftlichen Risiken dies birgt und wo Regulierungen nachgebessert werden müssen.
KI als Meinungsbildner
Sprachmodelle bilden heute das Rückgrat zahlreicher digitaler Anwendungen – von Chatbots über virtuelle Assistenten bis hin zu komplexen Entscheidungssystemen in der Arbeitswelt. Die Studie legt dar, dass diese Systeme keineswegs neutral operieren. Ihre Outputs basieren auf Mustern in Trainingsdaten, die bestimmte Weltbilder und Wertevorstellungen transportieren. Darüber hinaus sind KI-Systeme oft so konfiguriert, dass sie Nutzer:innen in ihren Einstellungen verstärken oder bestimmte Inhalte filtern.
„Die Wahrscheinlichkeit, dass große Sprachmodelle politische Meinungen und das Wahlverhalten von Nutzer:innen auf subtile Weise beeinflussen, ist eine ernstzunehmende Gefahr für die öffentliche Debatte und unsere Demokratie“, erklärt Stefan Schmid. Besonders kritisch sei, dass diese Beeinflussung oft unterschwellig erfolgt und somit für die Betroffenen schwer als solche erkennbar ist.
Defizite in der Gesetzgebung: AI Act und DSA unter der Lupe
Die Untersuchung analysiert kritisch die bestehende europäische Gesetzgebung, insbesondere den Digital Services Act (DSA) und den AI Act. Die Autoren kommen zu dem Schluss, dass sie das Problem bisher nur am Rande behandeln. Der Fokus liege auf offensichtlicher Schadensabwehr, während die subtile Erosion des Meinungsklimas durch algorithmisch verstärkte Bias vernachlässigt wird. Ein weiteres Risiko bestehe in der Marktdominanz weniger KI-Unternehmen, was die Vielfalt der Perspektiven im digitalen Raum weiter einschränken könnte.
Forderung nach einem ganzheitlichen Regulierungsansatz
Um den Schutz vor Diskriminierung und Polarisierung effektiv zu gewährleisten, schlagen Schmid und Kuenzler eine Erweiterung der regulatorischen Perspektive vor. Ein wirksamer Schutzmechanismus müsse Inhaltsmoderation, Wettbewerbsrecht, Transparente Lieferketten und Technologie-Design der Systeme umfassen.
Studie: Communication Bias in Large Language Models: A Regulatory Perspective https://dl.acm.org/doi/10.1145/3769689
Communication Bias in Large Language Models: A Regulatory Perspective https://dl.acm.org/doi/10.1145/3769689
Criteria of this press release:
Journalists
Information technology, Law, Media and communication sciences, Politics
transregional, national
Research results
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
