idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Vom Credit Scoring über personalisierte Werbung bis zur prädiktiven Polizeiarbeit: In vielen Bereichen der Gesellschaft werden datenbasierte Vorhersagemodelle verwendet, die unbekannte Personenattribute, zukünftige Verhaltensweisen, sowie Risiken und Profite über Menschen und Gruppen abzuschätzen erlauben. Ein neues interdisziplinäres Projekt an der Uni Osnabrück will die damit verbundenen Gefahren untersuchen. Die Deutsche Forschungsgemeinschaft (DFG) fördert das Projekt, welches die Perspektiven aus Rechtswissenschaften (Prof. Dr. Hannah Ruschemeier) und Philosophie (Prof. Dr. Rainer Mühlhoff) bündelt, mit rund 698.000 Euro über drei Jahre.
Zum Hintergrund: Die Verbreitung vernetzter digitaler Medientechnik befeuert eine gesamtgesellschaftliche Umwälzung der Produktion und Verarbeitung von Wissen. Dadurch werden bestimmte Anwendungen künstlicher Intelligenz (KI) zu politisch, sozial und wirtschaftlich prägenden Faktoren, lassen sich doch aus den individuellen Daten, die in alltäglichen Interaktionen mit digitalen Medien anfallen, prognostische Modelle erstellen. Das Besondere an dieser verbreiteten Form datenbasierter KI: Das damit verbundene Risiko betrifft nicht nur die Individuen, auf deren Daten die Modelle trainiert werden, sondern beliebige Dritte. Es entsteht eine neue Form von informationeller Macht über Individuen und gesellschaftliche Gruppen. „Diese Entwicklung geht mit einer Erosion von Autonomie einher, weil Individuen die Kontrolle über ihnen zugeschriebene, sozial relevante Klassifikationen verlieren, was zu einer Veränderung sozialer, ökonomischer und politischer Beziehungen führt“, wie die Rechtswissenschaftlerin Prof. Ruschemeier ausführt. „Zugleich birgt es Gefahren für Demokratie und politische Öffentlichkeit und begünstigt eine allgegenwärtige Kommerzialisierung, was wiederum Ungleichbehandlungen, neue Diskriminierungsformen und nicht vorhersehbare Auswirkungen in zahlreichen Gesellschaftsbereichen mit sich bringt.“ Und der Philosoph Prof. Mühlhoff fügt hinzu: „Der Einsatz solcher Modelle ist häufig so weit gefasst, dass die technologischen Apparate selbst zu strukturellen Faktoren der Gesellschaft werden, und damit soziale Ungleichheiten noch verstärkt werden.“
Die Wissenschaftlerinnen und Wissenschaftler wollen systematisch die Gefahren prädiktiver KI-Technologien in den Blick nehmen und darüber hinaus effektive Regulierungsvorschläge verfassen, um die Chancen der Technologie zu fördern und ihre Gefahren zu minimieren. „In der engen Verzahnung von Philosophie und Rechtswissenschaft werden wir das Phänomen der prädiktiven Wissensproduktion theoretisch analysieren, um Grundlagen für die ethische und rechtliche Beurteilung der Auswirkungen zu beschreiben“, so Mühlhoff. „Grundsätzlich geht es um die Erosion von Privatheit in der Datengesellschaft, welche durch die flächendeckende Nutzung vorhergesagter Informationen auf neue Weise infrage gestellt wird: Die virulenteste Form der Verletzung von Privatheit liegt aktuell in der Vorhersage von persönlichen Informationen“, so Ruschemeier abschließend.
Weitere Informationen für die Redaktionen:
Prof. Dr. Hannah Ruschemeier, Universität Osnabrück
Fachbereich Rechtswissenschaften
E-Mail: hannah.ruschemeier@uos.de
Prof. Dr. Rainer Mühlhoff, Universität Osnabrück
Institut für Kognitionswissenschaft
E-Mail: rainer.muehlhoff@uos.de
Merkmale dieser Pressemitteilung:
Journalisten
Gesellschaft, Informationstechnik, Recht
überregional
Forschungsprojekte
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
