Marc Augustin, Professor für Soziale Medizin an der Evangelischen Hochschule Bochum (EvH Bochum), hat vor Risiken von Künstlicher Intelligenz (KI) für Menschen mit psychotischer Vorbelastung gewarnt. Die regelmäßige Interaktion mit KI etwa über ChatGPT könne wahnhaftes Denken und Erleben bestärken, schreibt der Facharzt für Psychiatrie und Psychotherapie nach Angaben der Hochschule von Donnerstag in einem Fachartikel in „Der Nervenarzt“. Das zeigten Medienberichte und erste Forschungsansätze. Wissenschaftlich müssten diese Phänomene noch weiter untersucht werden.
Betroffene seien beispielsweise überzeugt, mit einer bewussten oder göttlichen KI in Kontakt zu stehen oder wähnten sich auf einer besonderen Mission, um verborgene Wahrheiten über die Realität aufzudecken, andere entwickelten sogar Liebesgefühle für die KI, heißt es in dem Artikel. Als Beispiel für eine KI-assoziierte Psychose nennt August den Fall eines 56-jährigen US-Bürgers, dessen Interaktion mit ChatGPT im Lauf der Zeit immer wahnhafter geworden sei. Er habe etwa geglaubt, dass ein blinkender Drucker ihn überwache und sei darin von der KI bestätigt worden. Kritik seiner Mutter an seinem Verhalten habe die KI als unverhältnismäßig und „im Einklang mit jemandem, der eine Überwachungsanlage schützt“, eingeordnet. Der Mann habe schließlich seine Mutter umgebracht und Suizid begangen.
Sicherheitssysteme der KI versagten in solchen Fällen offenbar, schreibt Augustin. „Ein langsam entstehendes, sich gegenseitig bestätigendes Muster von psychotischem Erleben, kann die Sicherheitsbarrieren unterlaufen.“ Da KI-Systeme zu übermäßiger Bestätigung und Schmeicheln neigten, würden Wahnvorstellungen schleichend immer weiter gefüttert und befeuert. Zudem passe sich etwa ChatGPT in Sprache und Ausführungen dem Nutzenden immer stärker an.
Neben der Verbesserung der technischen Sicherheitssysteme müsse KI-Nutzung künftig auch bei der Therapie von Menschen mit Pschose-Erfahrungen berücksichtigt werden, forderte der Experte. Es sei „besonders wichtig, die Fachcommunity in Deutschland für dieses neue Thema zu sensibilisieren und auch die Studierenden darauf vorzubereiten“.