У епоху стрімкого розвитку нейромереж та генеративного штучного інтелекту проблема несанкціонованого використання особистих зображень стає все гострішою. Відеоплатформа TikTok почала тестування нового інструменту, призначеного для допомоги авторам у пошуку дипфейків, створених за допомогою їхньої зовнішності. На першому етапі доступ до цієї функції отримають обрані творці контенту зі США.
Як працює система верифікації
Для отримання доступу до інструменту учасники тестування мають пройти процедуру підтвердження особи. Це здійснюється через сервіс Jumio, який вимагає від користувача виконання перевірки документа та селфі в режимі реального часу. Представник TikTok Закері Кайзер (Zachary Kizer) у інтерв'ю виданню The Verge пояснив, що сервіс Jumio не зберігає документи користувачів. Зображення використовуються виключно для зіставлення зовнішності та виявлення можливих випадків її несанкціонованого використання.
Автоматичний пошук та скарги
Після успішної перевірки система автоматично починає аналізувати публікації на платформі на предмет наявності згенерованих штучним інтелектом дипфейків. Автори отримують можливість переглядати результати сканування. Якщо система знаходить матеріали, що порушують правила, користувачі можуть надсилати скарги на відповідні ролики або акаунти.
Контекст індустрії
TikTok не став єдиним сервісом, який взявся за вирішення цієї проблеми. Аналогічний інструмент раніше почала впроваджувати YouTube, відкривши нещодавно доступ до нього для всіх повнолітніх користувачів. Впровадження таких технологій свідчить про те, що великі технологічні компанії змушені адаптуватися до нових викликів, створюваних генеративним ШІ, та шукати способи захисту цифрового портрета своїх користувачів.
