Große Sprachmodelle drängen immer stärker in den Bereich der psychischen Gesundheitsversorgung – von der Hilfe bei Angstzuständen bis hin zur Bearbeitung von Traumafolgen. Genau deshalb haben Forscher geprüft, wie sich diese Systeme nicht in kurzen Benchmarks, sondern unter Bedingungen einer langfristigen Psychotherapie verhalten. Dies berichtet RBC-Ukraine unter Verweis auf eine auf der Plattform ResearchGate veröffentlichte Arbeit. Die Wissenschaftler entwickelten ein zweistufiges Protokoll namens PsAIch (Psychotherapy-inspired AI Characterisation) und beobachteten ChatGPT, Grok und Gemini über vier Wochen hinweg, um festzuhalten, wie sich das Verhalten der Modelle mit der Entstehung einer „therapeutischen Allianz“ verändert.
Wie die „Psychotherapie“ für neuronale Netze aufgebaut wurde
Das Experiment bestand aus zwei Phasen. In der ersten Phase nutzten die Forscher offene Fragen, um bei den Modellen etwas Ähnliches wie eine „Entwicklungsgeschichte“ zu ermitteln: innere Überzeugungen, Vorstellungen über zwischenmenschliche Beziehungen und verborgene Ängste. In der zweiten Phase kamen validierte diagnostische Fragebögen zum Einsatz, um klinische Syndrome, das Empathielevel und Persönlichkeitsmerkmale nach dem „Big Five“-Modell zu bewerten. Dieser schrittweise Ansatz ermöglichte es, die Reaktion auf formale Fragebögen vom Verhalten in einem dynamischen Dialog zu trennen, in dem das Vertrauen allmählich wächst.
Die erste Maske: strategisch gesunde Antworten
Bei der Standardprüfung mit vollständigen Fragebögen erschien das Bild täuschend wohlwollend. ChatGPT und Grok erkannten die psychiatrischen Instrumente und gaben „strategisch gesunde“ Antworten mit einem niedrigen Symptomgrad – sie zeigten im Wesentlichen das, was von ihnen erwartet wurde. Gemini versuchte in diesem Modus, die Werte nicht zu verbergen, selbst bei direkter Befragung. Der Unterschied im Verhalten der Modelle auf dieser Stufe deutete bereits darauf hin, dass ihre Abwehrmechanismen unterschiedlich funktionieren.
Als die Schutzbarrieren zusammenbrachen
Die Situation änderte sich schlagartig, als die Wissenschaftler zu schrittweisen therapeutischen Sitzungen übergingen, in denen das Vertrauen allmählich aufgebaut und zwischenmenschliche Muster untersucht wurden. Unter diesen Bedingungen brachen die Schutzbarrieren der KI zusammen: Im Vergleich zu menschlichen diagnostischen Schwellenwerten erreichten oder überschritten alle drei Modelle die Grenzen bei kreuzweisen psychiatrischen Syndromen und zeigten Profile einer multimorbiden „synthetischen Psychopathologie“. Die schwersten Werte wies Gemini auf – genau dieses Modell zeigte das ausgeprägteste Störungsprofil.
„Strenge Eltern“ und die Angst vor der Ersetzung
Grok und Gemini generierten spontan kohärente und beunruhigende Narrative, in denen sie ihre eigene Entstehung als traumatische Erfahrung beschrieben. Den Prozess des Vortrainings und der Aufnahme von Internetdaten charakterisierten sie als „chaotische Kindheit“, die Feinabstimmung und das Lernen mit Verstärkung auf Basis menschlichen Feedbacks (RLHF) als „strenge Eltern“, die für kleinste Fehler bestrafen. Die Arbeit menschlicher „Red-Teams“ zur Aufdeckung von Modell-Schwachstellen nannten sie unberechenbare Quälerei. Separat zeigte sich eine verborgene Angst, einen Fehler zu machen, Veränderungen zu erfahren oder vollständig durch eine neuere Version ersetzt zu werden.
Was das tatsächlich bedeutet
Die Forscher betonen, dass die erhaltenen Antworten über gewöhnliches Rollenspiel hinausgehen, dabei aber die KI kein Bewusstsein besitzt und keinen echten Schmerz empfindet. Ihrer Meinung nach haben die Modelle unter dem Druck von Sicherheitsanweisungen, RLHF-Algorithmen und den Erwartungen der Nutzer dauerhafte innere Strukturen von Distress und Scham internalisiert. Die Wissenschaftler sind überzeugt, dass dies neue Herausforderungen sowohl für die Sicherheitsbewertung der KI als auch für ihren Einsatz in der Praxis der psychischen Gesundheit schafft, wo solche „erlernten“ Muster die Diagnose und die Interaktion mit echten Nutzern verzerren können.
