idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Vom Credit Scoring über personalisierte Werbung bis zur prädiktiven Polizeiarbeit: In vielen Bereichen der Gesellschaft werden datenbasierte Vorhersagemodelle verwendet, die unbekannte Personenattribute, zukünftige Verhaltensweisen, sowie Risiken und Profite über Menschen und Gruppen abzuschätzen erlauben. Ein neues interdisziplinäres Projekt an der Uni Osnabrück will die damit verbundenen Gefahren untersuchen. Die Deutsche Forschungsgemeinschaft (DFG) fördert das Projekt, welches die Perspektiven aus Rechtswissenschaften (Prof. Dr. Hannah Ruschemeier) und Philosophie (Prof. Dr. Rainer Mühlhoff) bündelt, mit rund 698.000 Euro über drei Jahre.
Zum Hintergrund: Die Verbreitung vernetzter digitaler Medientechnik befeuert eine gesamtgesellschaftliche Umwälzung der Produktion und Verarbeitung von Wissen. Dadurch werden bestimmte Anwendungen künstlicher Intelligenz (KI) zu politisch, sozial und wirtschaftlich prägenden Faktoren, lassen sich doch aus den individuellen Daten, die in alltäglichen Interaktionen mit digitalen Medien anfallen, prognostische Modelle erstellen. Das Besondere an dieser verbreiteten Form datenbasierter KI: Das damit verbundene Risiko betrifft nicht nur die Individuen, auf deren Daten die Modelle trainiert werden, sondern beliebige Dritte. Es entsteht eine neue Form von informationeller Macht über Individuen und gesellschaftliche Gruppen. „Diese Entwicklung geht mit einer Erosion von Autonomie einher, weil Individuen die Kontrolle über ihnen zugeschriebene, sozial relevante Klassifikationen verlieren, was zu einer Veränderung sozialer, ökonomischer und politischer Beziehungen führt“, wie die Rechtswissenschaftlerin Prof. Ruschemeier ausführt. „Zugleich birgt es Gefahren für Demokratie und politische Öffentlichkeit und begünstigt eine allgegenwärtige Kommerzialisierung, was wiederum Ungleichbehandlungen, neue Diskriminierungsformen und nicht vorhersehbare Auswirkungen in zahlreichen Gesellschaftsbereichen mit sich bringt.“ Und der Philosoph Prof. Mühlhoff fügt hinzu: „Der Einsatz solcher Modelle ist häufig so weit gefasst, dass die technologischen Apparate selbst zu strukturellen Faktoren der Gesellschaft werden, und damit soziale Ungleichheiten noch verstärkt werden.“
Die Wissenschaftlerinnen und Wissenschaftler wollen systematisch die Gefahren prädiktiver KI-Technologien in den Blick nehmen und darüber hinaus effektive Regulierungsvorschläge verfassen, um die Chancen der Technologie zu fördern und ihre Gefahren zu minimieren. „In der engen Verzahnung von Philosophie und Rechtswissenschaft werden wir das Phänomen der prädiktiven Wissensproduktion theoretisch analysieren, um Grundlagen für die ethische und rechtliche Beurteilung der Auswirkungen zu beschreiben“, so Mühlhoff. „Grundsätzlich geht es um die Erosion von Privatheit in der Datengesellschaft, welche durch die flächendeckende Nutzung vorhergesagter Informationen auf neue Weise infrage gestellt wird: Die virulenteste Form der Verletzung von Privatheit liegt aktuell in der Vorhersage von persönlichen Informationen“, so Ruschemeier abschließend.
Weitere Informationen für die Redaktionen:
Prof. Dr. Hannah Ruschemeier, Universität Osnabrück
Fachbereich Rechtswissenschaften
E-Mail: hannah.ruschemeier@uos.de
Prof. Dr. Rainer Mühlhoff, Universität Osnabrück
Institut für Kognitionswissenschaft
E-Mail: rainer.muehlhoff@uos.de
Criteria of this press release:
Journalists
Information technology, Law, Social studies
transregional, national
Research projects
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
