В эпоху стремительного развития нейросетей и генеративного искусственного интеллекта проблема несанкционированного использования личных изображений становится все острее. Видеоплатформа TikTok начала тестирование нового инструмента, призванного помочь авторам находить дипфейки, созданные с использованием их внешности. На первом этапе доступ к этой функции получат избранные создатели контента из США.
Как работает система верификации
Для получения доступа к инструменту участники тестирования должны пройти процедуру подтверждения личности. Это осуществляется через сервис Jumio, который требует от пользователя выполнения проверки документа и селфи в режиме реального времени. Представитель TikTok Закари Кайзер (Zachary Kizer) в интервью изданию The Verge разъяснил, что сервис Jumio не сохраняет документы пользователей. Изображения применяются исключительно для сопоставления внешности и выявления возможных случаев её несанкционированного использования.
Автоматический поиск и жалобы
После успешной проверки система автоматически начинает анализировать публикации на платформе на предмет наличия сгенерированных искусственным интеллектом дипфейков. Авторы получают возможность просматривать результаты сканирования. Если система находит материалы, нарушающие правила, пользователи могут отправлять жалобы на соответствующие ролики или аккаунты.
Контекст индустрии
ТикТок не стал единственным сервисом, взявшимся за решение этой проблемы. Аналогичный инструмент ранее начала внедрять YouTube, открыв недавно к нему доступ для всех совершеннолетних пользователей. Внедрение таких технологий свидетельствует о том, что крупные технологические компании вынуждены адаптироваться к новым вызовам, создаваемым генеративным ИИ, и искать способы защиты цифрового портрета своих пользователей.
