idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instance:
Share on: 
03/09/2022 13:58

TU Berlin: Menschen vertrauen mehr dem Menschen als KI-Systemen

Stefanie Terp Stabsstelle Kommunikation, Events und Alumni
Technische Universität Berlin

    TU-Wissenschaftler widerlegen die These von einem Vertrauensvorschuss in Technik als Ratgeber / Studie in Fachzeitschrift „Scientific Reports“ erschienen

    Wichtige Entscheidungen in unterschiedlichsten Kontexten wie zum Beispiel bei der Kreditvergabe oder medizinischen Befunden werden häufig erst nach Einbeziehung externer Expertise getroffen. Diese Expertise kommt oft von anderen Kolleg*innen, wird immer häufiger aber auch durch automatisierte Entscheidungsunterstützungssysteme bereitgestellt. Die Wissenschaftler*innen Tobias Rieger, Eileen Roesler und Prof. Dr. Dietrich Manzey vom Fachgebiet Arbeits-, Ingenieur- und Organisationspsychologie der TU Berlin haben im Rahmen einer Serie von Online-Experimenten untersucht, inwiefern sich das Vertrauen in menschliche Kolleg*innen vom Vertrauen in technische Unterstützungssysteme unterscheidet. Die Ergebnisse dieser Experimentalreihe sind nun in der Fachzeitschrift „Scientific Reports“ unter den Originaltitel: „Challenging presumed technological superiority when working with (artificial) colleagues“ erschienen und zeigen überraschend klar auf, dass der Expertise menschlicher Kolleg*innen mehr Vertrauen entgegengebracht wird als künstlich intelligenten oder klassischen Entscheidungsunterstützungssystemen. Dieses Ergebnis zeigt sich über unterschiedlichste Kontexte hinweg.

    Automatisierte Systeme erhalten immer mehr Einzug in das Arbeitsleben und den Alltag. Dabei reichen die Anwendungsbereiche von der Bewertung der privaten Kreditwürdigkeit bis hin zur Beurteilung medizinischer Fälle. Hierbei werden Tätigkeiten, die zuvor ausschließlich von Menschen durchgeführt wurden, zunehmend durch technische Systeme unterstützt oder sogar vollkommen übernommen. Sowohl für Mensch-Mensch-Teams als auch Mensch-Technologie-Teams stellt Vertrauen die zentrale Herausforderung für eine erfolgreiche Kooperation dar. Erkenntnisse früherer Studien legen nahe, dass das Vertrauen gegenüber Technologien sogar höher ist als gegenüber Menschen. Dies fußt auf der Annahme, dass technische Systeme unfehlbar sind.

    Ausgehend von der Frage, ob diese Annahme auch für moderne künstlich intelligente Systeme gilt, haben die TU-Wissenschaftler*innen Experimente in unterschiedlichen Bereichen mit über 900 Personen durchgeführt. Entgegen der vermuteten Überlegenheit technischer Systeme, zeigten alle Studien ein höheres Vertrauen gegenüber menschlichen Interaktionspartnern. Die zeigte sich im Kontext der Kreditvergabe, der medizinischen Diagnostik und Bildverarbeitung in der Prozessindustrie. Insbesondere der letztgenannte Effekt ist umso überraschender als die technische Bildverarbeitung inzwischen den menschlichen Fähigkeiten mindestens gleichwertig, wenn nicht überlegen ist.

    Neben der häufigeren Zusammenarbeit von Menschen und Technologien werden Menschen auch häufiger von technischen Systemen bewertet. Hier ergeben sich neue Herausforderungen. So macht es etwa einen Unterschied, ob man bei einer Bank arbeitet und hierbei Unterstützung erhält oder ob man bei der Bank einen Kredit beantragt und selbst von einer Entscheidung betroffen ist. Beide Situationen ergeben unterschiedliche Perspektiven für die Einschätzung des unterstützenden beziehungsweise beurteilenden Agenten. Hier waren die Ergebnisse überraschend für die Wissenschaftler*innen. Wenn die Untersuchungsteilnehmer*innen gefragt wurden, ob Entscheidungen, von denen sie selbst stark betroffen wären, lieber von einem technischen System oder einem Menschen getroffen werden sollten, präferierten sie durchgehend technische Systeme.

    Die Studien zeigen insgesamt die Bedeutsamkeit, die Mensch-Technik-Interaktion nicht nur aus der Perspektive der beruflichen Kooperation zu denken, sondern auch zu berücksichtigen, dass Menschen zunehmend von Technologien beurteilt werden. Vor dem Hintergrund technologischen Fortschritts und sich stetig verbessernden Systemen bleibt eine der größten offenen Fragen, wie viel Vertrauen angemessen ist.

    Die Studie „Challenging presumed technological superiority when working with (artificial) colleagues“ ist online abrufbar unter: http://www.nature.com/articles/s41598-022-07808-x

    Weitere Informationen erteilen Ihnen gern:
    Eileen Roesler
    TU Berlin
    Fachgebiet Arbeits-, Ingenieur- und Organisationspsychologie
    E-Mail: eileen.roesler@tu-berlin.de

    Tobias Rieger
    TU Berlin
    Fachgebiet Arbeits-, Ingenieur- und Organisationspsychologie
    E-Mail: tobias.rieger@tu-berlin.de

    Prof. Dr. Dietrich Manzey
    TU Berlin
    Fachgebiet Arbeits-, Ingenieur- und Organisationspsychologie
    E-Mail: dietrich.manzey@tu-berlin.de


    Images

    Criteria of this press release:
    Journalists, Scientists and scholars
    Information technology, Psychology
    transregional, national
    Research results
    German


     

    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).