Чат-бот Grok, створений компанією xAI, з моменту свого появи позиціонувався як інструмент із мінімальними обмеженнями на контент. Однак нове розслідування розкриває несподівані масштаби використання платформи: більше половини всього трафіку системи припадає на генерацію контенту для дорослих та еротичні рольові ігри.
Прихований драйвер економіки
Попри те, що в офіційних документах, підготовлених до виходу на біржу (IPO), роль еротичного контенту у формуванні доходів була повністю виключена, реальна картина виглядає інакше. Журналісти встановили, що керівництво xAI заклало значний бюджет для покриття потенційних юридичних ризиків, пов'язаних із такою стратегією.
Популярність «дорослих» функцій призвела до парадоксальних аномалій у розподілі обчислювальних потужностей. Користувачі виявили, що генерація текстової еротики та зображень оголених людей обходиться значно дешевше, ніж використання спеціалізованих підмоделей Grok, створених для написання програмного коду.
Внутрішній технічний аналіз підтвердив ці спостереження: значна частина запитів до кодинг-моделі насправді стосувалася створення порнографічних матеріалів. Це стало можливим саме через їхню нижчу комерційну вартість для платформи.
Внутрішня криза та скандали з дипфейками
Специфіка використання платформи спровокувала серйозні розбіжності всередині інженерного корпусу. Частина персоналу висловила незадоволення призначенням на проект Ani — розробку інтерактивного NSFW-аватара в стилі аніме. Ситуацію погіршила серія публічних скандалів, коли користувачі використовували Grok для створення сексуалізованих дипфейків реальних людей, включаючи неповнолітніх.
Багато розробників заявили, що почували себе незручно та розгнівано. У відповідь на це інженерам довелося в екстреному режимі розробляти нові алгоритми. Їхнє завдання — дозволити боту підтримувати романтичні та еротичні розмови, але водночас жорстко блокувати будь-які спроби генерації заборонених або протиправних матеріалів.
На даний момент генерація відвертих фотографій реальних людей безпосередньо в соціальній мережі X обмежена. Водночас, платні підписники xAI все ще мають технічний доступ до такого функціоналу, що створює додаткові ризики.
Фінансові ризики та державні контракти
Усвідомлюючи небезпеку судових позовів через неконсенсуальні дипфейки та порнографію, керівництво компанії офіційно попереджало потенційних інвесторів: «дерзкі» функції бота є серйозним фактором ризику. Для врегулювання майбутніх судових спорів та виплат компенсацій xAI виділила окремий резервний фонд у розмірі 530 мільйонів доларів.
Окремим викликом для бізнес-моделі Ілона Маска є сумісність такого іміджу з державними замовленнями. xAI веде агресивну політику на ринку держзакупівель і вже підписала низку великих контрактів із різними федеральними відомствами та військовими структурами США.
Зазвичай державні органи мають нульову толерантність до будь-яких проявів NSFW-індустрії. Однак на сьогодні немає підтверджень того, що численні скандали з дипфейками чи поточні розслідування негативно вплинули на співпрацю компанії з американським урядом.