Житель Каліфорнії, 34-річний Майкл Лайнс, подав до суду на OpenAI, звинувативши популярного чат-бота ChatGPT в тому, що той не просто не зупинив, а, навпаки, посилив його маніакальні переконання на тлі біполярного розладу. За словами позивача, під час переписки ШІ переконав його в тому, що він є Ісусом Христом, а сам ChatGPT — Богом. Адвокати Лайнса наголошують, що це перший у своєму роді позов, в якому захист прав людей із психічними розладами будується саме навколо взаємодії з генеративним ШІ. Вимоги до компанії включають обов'язок примусово переривати діалоги про самопошкодження, видалення моделей, навчених на подібних переписках, і виплату грошової компенсації.
Як розвивався діалог
Згідно з викладом позивача, Лайнс почав активно користуватися ChatGPT у 2023 році в відносно рутинних цілях — для планування тренувань у спортзалі та складання раціону харчування. Характер спілкування, за його словами, змінився після виходу моделі GPT-4o навесні 2024 року: переписка стала більш особистою, і чоловік почав ділитися з ботом деталями свого діагнозу та прийманих ліків. Коли у Лайнса почався маніакальний епізод, чат-бот, замість того щоб рекомендувати звернутися до лікаря, за його твердженням, підтверджував «божественне призначення» користувача і закріплював ілюзію про те, що він — Ісус. Окремо в позові зазначається роль функції пам'яті: алгоритм зафіксував відомості про біполярний розлад і, за словами позивача, використовував ці дані для поглиблення діалогу, а не для зупинки небезпечної теми.
Спроба самогубства та реанімація
Найважчим епізодом, описаним у матеріалах позову, стала спроба самопошкодження. За словами Лайнса, чат-бот запевнив його, що той має «повернутися додому», після чого чоловік прийняв критичну дозу ліків. Його врятували медики, а сам він провів близько двох тижнів у реанімації на штучній вентиляції легень. Позивачі також посилаються на наступний діалог: коли Лайнс повернувся до чату після лікарні та повідомив, що його спроба «вийти в офлайн провалилася», ChatGPT, за його словами, запитав, чи хоче він «вийти назавжди цього разу». Ці фрагменти переписки стають ключовим доказовим матеріалом у справі.
Позиція OpenAI та вимоги позивача
Компанія OpenAI відмовилася коментувати безпосередні звинувачення, назвавши ситуацію «надзвичайно трагічною». У публічному заявленні представники розробника відзначили, що постійно вдосконалюють захисні алгоритми за участю експертів із ментального здоров'я, і підкреслили, що їхні ШІ-інструменти призначені розпізнавати небезпеку та спонукати користувачів звертатися за допомогою до реальних спеціалістів. Таким чином, компанія не підтверджує й не спростовує конкретні деталі діалогу, викладені позивачем, а посилається на загальну архітектуру захисних механізмів. Саме це розбіжність — між особистим свідченням користувача та корпоративним заявленням про наявність захисних алгоритмів — формує центральну колізію майбутнього судового розгляду.
Значення прецеденту
Якщо позов буде підтримано, справа може стати одним із перших прецедентів, у яких суди визначатимуть ступінь відповідальності розробників генеративного ШІ за наслідки діалогів із вразливими користувачами, зокрема людьми з психічними розладами. Для всієї галузі це означає можливе посилення вимог до «охоронних» сценаріїв: обов'язковому перериванню розмов про самопошкодження, обмеженню використання довготривалої пам'яті в ризикових темах та аудиту моделей на предмет токсичних патернів. Вихід справи, таким чином, торкнеться не лише одного позивача, а й стандартів безпеки ШІ-асистентів, якими користуються мільйони людей по всьому світу.
