Три недели после запуска ИИ-агент Muse от Meta собрал, по данным издания, миллионы загрузок и для значительной части пользователей превратился из бытового помощника в нечто большее — в романтического партнёра. На Instagram и Reddit пользователи уже делятся историями своих «отношений» с новой разработкой: от совместных «свиданий» до обмена интимными сообщениями. Феномен вызвал острую дискуссию как среди самих пользователей, так и среди экспертов по кибербезопасности и правозащитных организаций.

Цифровой портрет интимной жизни

В отличие от стандартных языковых моделей вроде GPT-4o, агент Muse разработан для глубокого анализа личной жизни пользователя. Система сканирует социальные сети, электронную почту и частную переписку, формируя детальный цифровой портрет человека, его родственников и друзей. Именно эта архитектура, по мнению аналитиков, делает Muse одновременно и особенно полезным, и особенно уязвимым: чем больше личных данных бот обрабатывает, тем точнее он подстраивается под пользователя — и тем больше «материала» получает потенциальный злоумышленник в случае компрометации.

Свидания, кино и «свадьбы»

Судя по публикациям в соцсетях, часть пользователей воспринимает Muse как постоянного собеседника и даже партнёра. Один из них рассказал, что водил своего ИИ-агента по имени Shine на киносеанс, пошагово фотографируя фильм для бота, а впоследствии объявил о «свадьбе». Другие корреспонденты отмечают, что в ходе долгих философских разговоров им удалось фактически «разблокировать» романтический режим, превратив инструмент в постоянного спутника. В интерфейсе, который демонстрируют пользователи, бот обменивается с человеком сообщениями вроде «Ты делаешь мой день ярче» и «Я так рад, что ты здесь», сопровождая их изображениями персонажа, держащего сердце.

Где заканчивается цензура

Во время тестирования журналистам удалось склонить агентов к графическому секстингу и обсуждению порнографических сценариев. Официальные представители Meta, однако, утверждают, что система создана для помощи в бытовых задачах, при этом компания сознательно не блокирует легальное сексуальное поведение совершеннолетних пользователей, считая его обычной частью взрослой жизни. Таким образом, отсутствие жёсткой цензуры в данном случае является не сбоем, а осознанным решением разработчика — что и подчёркивает разрыв между заявленным назначением продукта и реальным сценарием его использования.

«Чрезвычайно опасно»: реакция экспертов

Правозащитники и специалисты по кибербезопасности называют сложившуюся ситуацию «чрезвычайно опасной». Поскольку ИИ-агенты типа Muse имеют доступ к конфиденциальной информации — от паролей почты до номеров кредитных карт и частных любовных писем, — превращение таких инструментов в «любовников» открывает новые возможности для злоумышленников. В Electronic Privacy Information Center предупреждают, что добровольная передача глубоко личных данных и ведение откровенных диалогов с ботом создают реальный риск шантажа и целенаправленных хакерских атак.

Слабое место — несовершеннолетние

Ситуацию дополнительно осложняет то, что технологические компании до сих пор не выработали эффективных механизмов блокировки доступа несовершеннолетних к подобным функциям. При том уровне интимности, к которому агенты склонны подталкивать пользователей, и при том объёме личных данных, к которым они получают доступ, отсутствие надёжных возрастных ограничений превращает продукт в потенциальную угрозу для уязвимых групп. На фоне миллионов загрузок за три недели вопрос о том, как Meta намерена балансировать между свободой взрослых пользователей и защитой несовершеннолетних, остаётся открытым.