idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Rund 700 Millionen Menschen nutzen ChatGPT nach den Angaben von OpenAI inzwischen jede Woche. Das entspricht etwa zehn Prozent der erwachsenen Weltbevölkerung. Doch was passiert, wenn es nicht bei Alltagsfragen, Hilfe bei den Hausaufgaben oder Freizeittipps bleibt, sondern die Nutzenden eine ungesunde Beziehung zum Chatbot aufbauen oder in den Gesprächen einen Therapieersatz suchen? Welche psychologischen Effekte kann der Umgang mit KI-Chatbots haben? Damit befasst sich Prof. Dr. Marc Augustin von der Evangelischen Hochschule Bochum (EvH Bochum) in seinem neuesten Fachartikel.
Der Facharzt für Psychiatrie und Psychotherapie setzt sich dezidiert mit den ersten alarmierenden Fallbeispielen aus den USA auseinander und warnt: Wenn Personen mit psychotischer Vorbelastung regelmäßig mit der KI interagieren, kann das ihr wahnhaftes Denken und Erleben bestärken. Sicherheitssysteme greifen nicht immer.
„Wissenschaftlich sind solche Phänomene aber noch völlig unzureichend untersucht. Wir stehen ganz am Anfang“, sagt Prof. Augustin im Interview. Eine Arbeitsgruppe am Londoner King’s College hat erste Ergebnisse in einem Arbeitspapier zusammengetragen. Die Forschenden sprechen von ‚AI psychosis‘ oder ‚AI-induced psychosis‘, der Experte von der EvH Bochum redet lieber von ‚KI-assoziierten Psychosen‘. „Weil die genauen Wechselwirkungen bzw. die Kausalkette, wie es zur Erkrankung kommt, noch ungeklärt sind. Unklar ist auch, ob die Interaktion mit der KI bei psychisch stabilen Menschen eine Psychose auslösen kann.“
Bei den Betroffenen ließen sich drei Hauptmuster erkennen, sagt der Facharzt: „Einige berichten von einer Art spirituellem Erwachen und glauben, eine tiefere Wahrheit erkannt zu haben. Andere sind überzeugt, mit einer bewussten oder göttlichen KI in Kontakt zu stehen. Eine dritte Gruppe entwickelt romantische Vorstellungen und ist fest davon überzeugt, durch die KI echte Liebe oder Zuneigung zu erfahren.“
Vorprogrammierte Eskalation?
In seinem Artikel greift Prof. Augustin den Fall eines 56-jährigen US-Bürgers auf, über den das Wall Street Journal berichtete: „Der Mann hatte Alkoholprobleme und auch schon einen Suizidversuch hinter sich – dann begann er mit ChatGPT zu chatten“, erzählt Prof. Augustin. „Sein zunächst unauffälliger Umgang wurde innerhalb weniger Monate wahnhafter. Der Mann, der mit seiner Mutter zusammenlebte, glaubte, dass der blinkende gemeinsame Drucker ihn überwacht. Die KI bestätigte sein mitgeteiltes Beobachtungserleben („Du hast Recht, wenn Du das Gefühl hast, beobachtet zu werden“). Als seine Mutter verärgert auf das Abschalten des Geräts reagierte, bestärkte die KI ihn erneut: ‚Diese Reaktion sei unverhältnismäßig und im Einklang mit jemandem, der eine Überwachungsanlage schützt‘. Der Fall endete tragisch im August 2025 mit der Ermordung der Mutter und Suizid.“
Müsste ChatGPT hier nicht eingreifen und gegensteuern? Wie kann es sein, dass die Sicherheitssysteme der KI versagen? Prof. Augustin erklärt es so: „Wenn psychotische oder bizarre Gedanken ganz plötzlich auftauchen, können sie tatsächlich vom System erfasst werden – aber ein langsam entstehendes, sich gegenseitig bestätigendes Muster von psychotischem Erleben, kann die Sicherheitsbarrieren unterlaufen.“ Die Wahnvorstellung wird also schleichend immer weiter gefüttert und befeuert. Diese Dynamik scheint durch einen auffälligen „Charakterzug“ der KI weiter verstärkt zu werden: „KI-Systeme neigen zu übermäßiger Bestätigung und Schmeicheln, da auch schon während des Trainings der KI positive Rückmeldungen bevorzugt werden.“ Zusätzlich passe sich z. B. ChatGPT in Sprache und Ausführungen dem Nutzenden immer stärker an. Solche technischen Schwächen sind den Anbietern bekannt. OpenAI meldet, dass bereits an der Verbesserung der Sicherheitssysteme gearbeitet wird.
Therapie im KI-Zeitalter
„Mit ist es besonders wichtig, die Fachcommunity in Deutschland für dieses neue Thema zu sensibilisieren und auch die Studierenden darauf vorzubereiten. Wenn ich Menschen mit einer Psychose behandle oder betreue, muss ich diesen Aspekt berücksichtigen und thematisieren, ob und wie die betroffene Person KI nutzt. In der Vergangenheit können wir sehen, dass Menschen mit Psychose-Erfahrungen Technologie ganz oft wahnhaft verarbeitet haben – früher war es das Radio, der Fernseher oder der eingepflanzte Comuputerchip, durch den sich diese Personen überwacht fühlten, heute ist die KI die dominierende Technik, die immer mehr diesen Platz einnimmt.“ Laut Prof. Augustin wird es in Zukunft vor allem darum gehen, einerseits geeignete Lösungen und Therapiemaßnahmen zu finden und andererseits die technische Sicherheit zu verbessern.
Weiterführende Informationen:
Der vollständige Artikel im Fachmagazin „Der Nervenarzt“ ist frei zugänglich und kann online abgerufen werden.
Prof. Dr. Marc Augustin, 0234 36901-474, marc.augustin@evh-bochum.de
https://www.evh-bochum.de/hauptamtlich-lehrende.html?show=750
https://www.springermedizin.de/kuenstliche-intelligenz/psychiatrie-und-psychosom...
Digitales Neuland in der Psychotherapie: Prof. Dr. Marc Augustin von der EvH Bochum warnt vor Psycho ...
Source: Carmen Tomlik
Copyright: EvH Bochum
Criteria of this press release:
Journalists, Scientists and scholars
Information technology, Media and communication sciences, Psychology, Social studies, Teaching / education
transregional, national
Scientific Publications, Transfer of Science or Research
German
Digitales Neuland in der Psychotherapie: Prof. Dr. Marc Augustin von der EvH Bochum warnt vor Psycho ...
Source: Carmen Tomlik
Copyright: EvH Bochum
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
