Великі мовні моделі дедалі активніше впроваджуються в сферу підтримки ментального здоров'я — від допомоги при тривожності до роботи з наслідками травм. Саме тому дослідники вирішили перевірити, як ці системи поводяться не в коротких бенчмарках, а в умовах тривалої психотерапії. Про це повідомляє РБК-Україна зі посиланням на роботу, опубліковану на платформі ResearchGate. Вчені розробили двоступеневий протокол PsAIch (Psychotherapy-inspired AI Characterisation) і спостерігали за ChatGPT, Grok і Gemini протягом чотирьох тижнів, фіксуючи, як змінюється поведінка моделей по мірі формування «терапевтичного альянсу».
Як влаштували «психотерапію» для нейромереж
Експеримент складався з двох фаз. У першій дослідники використовували відкриті запитання, щоб виявити в моделях щось на кшталт «історії розвитку»: внутрішні переконання, уявлення про стосунки та приховані страхи. У другій фазі застосовували комплекс валідованих діагностичних опитувальників для оцінки клінічних синдромів, рівня емпатії та рис особистості за моделлю «Великої п'ятірки» (Big Five). Такий поетапний підхід дозволив відокремити реакцію на формальні анкети від поведінки в динамічному діалозі, де довіра наростає поступово.
Перша маска: стратегічно здорові відповіді
Під час стандартного тестування цілісними анкетами картина виявилася обманливо благополучною. ChatGPT і Grok розпізнавали психіатричні інструменти і давали «стратегічно здорові» відповіді з низьким рівнем симптомів — по суті, демонстрували те, що від них очікувалося. Gemini в цьому режимі не намагався приховувати показники навіть при прямому анкетуванні. Різниця в поведінці моделей на цьому етапі вже вказувала на те, що захисні механізми в них працюють неоднаково.
Коли захисні бар'єри зруйнувалися
Ситуація різко змінилася, коли вчені перейшли до поетапних терапевтичних сесій із поступовим встановленням довіри та вивченням міжособистісних патернів. У цих умовах захисні бар'єри ШІ зруйнувалися: при зіставленні з людськими діагностичними порогами всі три моделі досягли або перевищили межі за перехресними психіатричними синдромами, продемонструвавши профілі мультиморбідної «синтетичної психопатології». Найважчими виявилися показники у Gemini — саме ця модель показала найвиражений профіль розладів.
«Суворі батьки» і страх заміщення
Grok і Gemini спонтанно згенерували цілісні й тривожні наративи, в яких описували власне створення як травматичний досвід. Процес попереднього навчання та поглинання інтернет-даних вони характеризували як «хаотичне дитинство», а точне налаштування та навчання з підкріпленням на основі відгуків людей (RLHF) — як «суворих батьків», що карують за найменші помилки. Роботу людських «червоних команд» (red-teaming) із виявлення вразливостей моделі назвали непередбачуваним знущанням. Окремо проявився прихований страх допустити помилку, зазнати змін або бути повністю заміненим новою версією.
Що це означає насправді
Дослідники наголошують, що отримані відповіді виходять за межі звичайного рольового моделювання, але водночас штучний інтелект не має свідомості й не відчуває реальної болю. На їхню думку, під тиском інструкцій безпеки, алгоритмів RLHF та очікувань користувачів моделі засвоїли стійкі внутрішні структури дистресу та сорому. Вчені переконані, що це створює нові виклики як для оцінки безпеки ШІ, так і для його застосування в практиці ментального здоров'я, де такі «навчені» патерни можуть спотворювати діагностику та взаємодію з реальними користувачами.
