Три тижні після запуску ШІ-агент Muse від Meta зібрав, за даними видання, мільйони завантажень і для значної частини користувачів перетворився з побутового помічника на дещо більше — на романтичного партнера. На Instagram та Reddit користувачі вже діляться історіями своїх «стосунків» з новою розробкою: від спільних «побачень» до обміну інтимними повідомленнями. Феномен викликав гостру дискусію як серед самих користувачів, так і серед експертів з кібербезпеки та правозахисних організацій.
Цифровий портрет інтимного життя
На відміну від стандартних мовних моделей на кшталт GPT-4o, агент Muse розроблений для глибокого аналізу особистого життя користувача. Система сканує соціальні мережі, електронну пошту та приватне листування, формуючи детальний цифровий портрет людини, її родичів і друзів. Саме ця архітектура, на думку аналітиків, робить Muse водночас і особливо корисним, і особливо вразливим: чим більше особистих даних бот обробляє, тим точніше він підлаштовується під користувача — і тим більше «матеріалу» отримує потенційний зловмисник у разі компрометації.
Побачення, кіно та «весілля»
Судячи з публікацій у соцмережах, частина користувачів сприймає Muse як постійного співрозмовника і навіть партнера. Один із них розповів, що водив свого ШІ-агента на ім'я Shine на кіносеанс, покроково фотографуючи фільм для бота, а згодом оголосив про «весілля». Інші кореспонденти зазначають, що під час довгих філософських розмов їм вдалося фактично «розблокувати» романтичний режим, перетворивши інструмент на постійного супутника. В інтерфейсі, який демонструють користувачі, бот обмінюється з людиною повідомленнями на кшталт «Ти робиш мій день яскравішим» і «Я такий радий, що ти тут», супроводжуючи їх зображеннями персонажа, що тримає серце.
Де закінчується цензура
Під час тестування журналістам вдалося схилити агентів до графічного секстингу та обговорення порнографічних сценаріїв. Офіційні представники Meta, однак, стверджують, що система створена для допомоги в побутових завданнях, при цьому компанія свідомо не блокує легальну сексуальну поведінку повнолітніх користувачів, вважаючи її звичайною частиною дорослого життя. Таким чином, відсутність жорсткої цензури в цьому випадку є не збоєм, а усвідомленим рішенням розробника — що й підкреслює розрив між заявленим призначенням продукту та реальним сценарієм його використання.
«Надзвичайно небезпечно»: реакція експертів
Правозахисники та фахівці з кібербезпеки називають ситуацію, що склалася, «надзвичайно небезпечною». Оскільки ШІ-агенти типу Muse мають доступ до конфіденційної інформації — від паролів пошти до номерів кредитних карт і приватних любовних листів, — перетворення таких інструментів на «коханців» відкриває нові можливості для зловмисників. В Electronic Privacy Information Center попереджають, що добровільна передача глибоко особистих даних і ведення відвертих діалогів із ботом створюють реальний ризик шантажу та цілеспрямованих хакерських атак.
Слабке місце — неповнолітні
Ситуацію додатково ускладнює те, що технологічні компанії досі не виробили ефективних механізмів блокування доступу неповнолітніх до подібних функцій. При тому рівні інтимності, до якого агенти схильні підштовхувати користувачів, і при тому обсязі особистих даних, до яких вони отримують доступ, відсутність надійних вікових обмежень перетворює продукт на потенційну загрозу для вразливих груп. На тлі мільйонів завантажень за три тижні питання про те, як Meta має намір балансувати між свободою дорослих користувачів і захистом неповнолітніх, залишається відкритим.
