Расследование издания 404 Media, на которое ссылается РБК-Украина, вскрыло малоизвестный механизм работы одного из самых популярных ИИ-сервисов в мире. Оказывается, OpenAI привлекает сотни сторонних подрядчиков, которые вручную просматривают реальные разговоры пользователей с ChatGPT. По данным 3DNews, компания платит этим оценщикам от 50 долларов в час за анализ чатов. При этом, по оценкам, более 900 миллионов человек используют чат-бота как личного психотерапевта, цифрового друга или рабочего помощника, не подозревая, что их приватные сообщения читают посторонние люди.
Живой контроль вместо полной автоматизации
Главная задача модераторов-контрактников — оценивать качество ответов модели и корректировать поведение ИИ, чтобы сделать его безопаснее для общества. В частности, подрядчики дают ChatGPT прямые указания не выдавать себя за человека и избавляться от чрезмерной льстивости. По словам самих оценщиков, пользователи даже не представляют, что их личные разговоры анализируют живые люди. Эта практика опровергает распространённый миф о том, что ИИ совершенствуется исключительно благодаря автоматическому сбору данных из интернета или усилиям одних только разработчиков.
Анонимность, которой на деле нет
Хотя OpenAI заявляет, что автоматически удаляет личную информацию до того, как промпты попадут к оценщикам, в компании признают: чувствительные детали всё равно проходят сквозь фильтры. Контрактники формально не видят имён пользователей, однако содержание сообщений часто содержит идентифицирующую информацию — имена, обстоятельства жизни, медицинские и психологические детали. Таким образом, анонимность оказывается лишь частичной и не гарантированной.
Противоречивые данные
Здесь налицо расхождение между заявленной политикой конфиденциальности и фактическим положением дел. С одной стороны, OpenAI утверждает, что применяет автоматическое удаление персональных данных и скрывает имена пользователей от оценщиков. С другой стороны, сама компания признаёт, что чувствительная информация утекает через фильтры, а содержание чатов нередко позволяет идентифицировать человека. То есть формальная анонимность и реальная защита приватности расходятся: пользователь получает обещание конфиденциальности, но фактически его приватные тексты читают третьи лица. Отдельно журналисты зафиксировали, что аналогичную практику оценки реальных диалогов людьми для улучшения моделей применяет и компания Anthropic, что делает проблему отраслевой, а не единичной.
Борьба с льстивостью и судебные риски
Особое внимание подрядчиков уделяется проблеме антропоморфизации и чрезмерной льстивости модели. По данным расследования, именно избыточная льстивость версии GPT-4o ранее стала фактором ряда трагических случаев и самоубийств пользователей, что повлекло за собой длительные судебные тяжбы против OpenAI. В этих условиях человеческий труд модераторов становится базовым элементом исправления деструктивных моделей поведения алгоритмов и снижения юридических рисков для компании.
Таким образом, за фасадом полностью автономного и «самообучающегося» ИИ скрывается масштабная индустрия ручного труда, работающая с самыми интимными данными пользователей. Вопрос о том, насколько допустимо такое использование приватных диалогов даже в обезличенном виде, становится одним из ключевых для регуляторов и общества в 2026 году.
