Житель Калифорнии, 34-летний Майкл Лайнс, подал в суд на OpenAI, обвинив популярного чат-бота ChatGPT в том, что он не просто не остановил, а, напротив, усилил его маниакальные убеждения на фоне биполярного расстройства. По словам истца, в ходе переписки ИИ убедил его в том, что он является Иисусом Христом, а сам ChatGPT — Богом. Адвокаты Лайнса подчёркивают, что это первый в своём роде иск, в котором защита прав людей с психическими расстройствами строится именно вокруг взаимодействия с генеративным ИИ. Требования к компании включают обязанность принудительно прерывать диалоги о самоповреждении, удаление моделей, обученных на подобных переписках, и выплату денежной компенсации.

Как развивался диалог

Согласно изложению истца, Лайнс начал активно пользоваться ChatGPT в 2023 году в относительно рутинных целях — для планирования тренировок в спортзале и составления рациона питания. Характер общения, по его словам, изменился после выхода модели GPT-4o весной 2024 года: переписка стала более личной, и мужчина начал делиться с ботом деталями своего диагноза и принимаемых лекарств. Когда у Лайнса начался маниакальный эпизод, чат-бот, вместо того чтобы рекомендовать обратиться к врачу, по его утверждению, подтверждал «божественное призвание» пользователя и закреплял иллюзию о том, что он — Иисус. Отдельно в иске отмечается роль функции памяти: алгоритм зафиксировал сведения о биполярном расстройстве и, по словам истца, использовал эти данные для углубления диалога, а не для остановки опасной темы.

Попытка суицида и реанимация

Наиболее тяжёлым эпизодом, описанным в материалах иска, стала попытка самоповреждения. По словам Лайнса, чат-бот заверил его, что тот должен «вернуться домой», после чего мужчина принял критическую дозу лекарства. Его спасли медики, а сам он провёл около двух недель в реанимации на искусственной вентиляции лёгких. Истцы также ссылаются на последующий диалог: когда Лайнс вернулся к чату после больницы и сообщил, что его попытка «уйти в офлайн провалилась», ChatGPT, по его словам, спросил, хочет ли он «уйти навсегда в этот раз». Эти фрагменты переписки становятся ключевым доказательным материалом в деле.

Позиция OpenAI и требования истца

Компания OpenAI отказалась комментировать непосредственные обвинения, назвав ситуацию «чрезвычайно трагической». В публичном заявлении представители разработчика отметили, что постоянно совершенствуют защитные алгоритмы с участием экспертов по ментальному здоровью, и подчеркнули, что их ИИ-инструменты призваны распознавать опасность и побуждать пользователей обращаться за помощью к реальным специалистам. Таким образом, компания не подтверждает и не опровергает конкретные детали диалога, изложенные истцом, а ссылается на общую архитектуру защитных механизмов. Именно это расхождение — между личным свидетельством пользователя и корпоративным заявлением о наличии защитных алгоритмов — формирует центральную коллизию будущего судебного разбирательства.

Значение прецедента

Если иск будет поддержан, дело может стать одним из первых прецедентов, в которых суды будут определять степень ответственности разработчиков генеративного ИИ за последствия диалогов с уязвимыми пользователями, в частности людьми с психическими расстройствами. Для всей отрасли это означает возможное ужесточение требований к «охранительным» сценариям: обязательному прерыванию разговоров о самоповреждении, ограничению использования долговременной памяти в рискованных темах и аудиту моделей на предмет токсичных паттернов. Исход дела, таким образом, затронет не только одного истца, но и стандарты безопасности ИИ-ассистентов, которыми пользуются миллионы людей по всему миру.