Корпорація Meta Platforms прийняла безпрецедентне рішення про негайну призупинку роботи інструменту Muse Image у соціальній мережі Instagram. Функція, яка дозволяла генерувати синтетичні зображення на основі зовнішності користувачів, була виведена з експлуатації всього через три дні після офіційного запуску. Поводом для скасування стали масові звернення правозахисних організацій та жорстка критика з боку профспілки SAG-AFTRA.

Механіка, що стала причиною скандалу

Інструмент Muse Image, інтегрований в екосистему Meta AI, працював за принципом глибокого аналізу публічного контенту. Алгоритм дозволяв користувачеві створити запит до чат-бота, просто згадавши ім'я відкритого профілю через символ @. У відповідь нейромережа автоматично аналізувала фотографії та відеоматеріали Reels зазначеної людини, використовуючи її антропометричні параметри та зовнішні характеристики як референс для побудови нового зображення.

З технічної точки зору реалізація викликала серйозні занепокоєння у експертів з цифрової безпеки. Система функціонувала за моделлю Opt-out (відмова від послуги). Це означало, що функція була активована за замовчуванням для всіх власників публічних акаунтів. Щоб захистити свій образ, користувачеві потрібно було самостійно знайти та деактивувати відповідну опцію у глибоких розділах налаштувань конфіденційності.

Проблема прозорості та контролю

Ключовим фактором, що підштовхнув Meta до скасування функції, стало відсутність прозорості процесу. Платформа не повідомляла власників профілів про те, що їхні зображення використовуються як навчальні матеріали для ШІ. Більше того, навіть якщо користувач приймав рішення про вимкнення функції в налаштуваннях безпеки, це не призводило до видалення раніше згенерованих на основі його зовнішності зображень, які могли вже зберегтися в базах даних інших акаунтів.

Така архітектура фактично позбавляла людей контролю над власним цифровим образом. На відміну від стандартної моделі Opt-in, де потрібне підтвердження перед обробкою даних, тут згода вважалася отриманою мовчки.

Реакція індустрії розваг

Масове незадоволення швидко переросло у юридичну площину. Профспілка акторів екрану та Федерація артистів телебачення та радіо США (SAG-AFTRA), а також найбільші агентства, включаючи Creative Artists Agency (CAA), виступили з офіційними заявами. Представники організацій засудили політику автоматичної згоди, вказавши, що подібний механізм легалізує створення цифрових дублікатів фізичних осіб без отримання прямого, усвідомленого та задокументованого дозволу.

Під тиском юридичних ризиків та масштабних кампаній користувачів, які вимагали перегляду налаштувань конфіденційності, керівництво Meta заблокувало доступ до модуля. У офіційній заяві компанії визнали, що, хоча метою було розширення творчих можливостей, зворотний зв'язок показав невідповідність очікувань аудиторії в частині контролю над особистим контентом.

Новий етап у регулюванні ШІ

Інцидент з Muse Image став важливим прецедентом в історії розвитку генеративних технологій. Він наочно продемонстрував зростаючу суворість вимог до дотримання концепції усвідомленої згоди (informed consent) при використанні біометричних даних. Інші генеративні функції Meta AI, не пов'язані з запозиченням персональних образів, продовжують роботу, однак цей випадок сигналізує про те, що межі використання даних користувачів стають все більш жорсткими.