Компания Anthropic ведёт разработку открытой системы под названием FlashProve, призванной верифицировать, какая именно модель искусственного интеллекта сгенерировала тот или иной результат. Проект реализует концепцию так называемого «доказуемого вывода» (provable inference): пользователь получает криптографическое доказательство и математическую гарантию подлинности источника данных, что позволяет подтвердить — он действительно работает с заявленной моделью, а не с её подменой. Инициатива опубликована в исследовательском формате, а спецификация и рабочий код элементов системы размещены под открытой лицензией на GitHub.
Что такое «доказуемый вывод»
По аналогии с криптографическими подписями электронных писем FlashProve обеспечивает защиту от попыток выдать одну модель за другую. Ключевое свойство системы — сохранение эффективности даже в тех случаях, когда подмену пытается скрыть сама лаборатория, разработавшая и запустившая ИИ. Исследователи указывают, что технологию можно применять для предотвращения ситуаций, когда ИИ-компания тайно внедряет более дешёвую модель ради снижения издержек или, напротив, более дорогую — для искусственного завышения результатов тестов производительности.
Верификация заявлений третьих лиц
FlashProve также может использоваться для проверки утверждений третьих лиц о том, что конкретная задача была решена с помощью передовых нейросетей. «Разработчик может утверждать, что его библиотека программного обеспечения была проверена на наличие уязвимостей передовой моделью кибербезопасности, или компания может заявить, что её бизнес-план был одобрен соответствующей моделью. [Но] как пользователь может проверить эти утверждения?», — пишут авторы проекта. Таким образом, система превращает маркетинговые заявления в проверяемый криптографический факт.
«Цифровой отпечаток» без раскрытия весов
Для работы верификации ИИ-лаборатории должны публиковать «цифровой отпечаток» каждой выпускаемой модели, который впоследствии криптографически сопоставляется с конкретными ответами. Важно, что эти отпечатки не раскрывают веса моделей — внутренние числовые параметры, определяющие поведение ИИ, которые разработчики закрытых коммерческих систем, такие как Anthropic и OpenAI, держат в секрете. Соответственно, лаборатории смогут публиковать отпечатки без риска для интеллектуальной собственности. Сама система спроектирована как легковесная, что позволяет проводить проверку непосредственно на локальном устройстве пользователя.
Статус проекта и открытая лицензия
На данный момент FlashProve находится на стадии исследования: планов по немедленному внедрению технологии в Anthropic или других лабораториях нет. Подробная спецификация и рабочий код элементов системы опубликованы под открытой лицензией на GitHub. «Эта исследовательская публикация предназначена для того, чтобы поделиться промежуточным прогрессом, а не завершённой программой исследований. Мы делимся этим явно с той целью, чтобы другие изучили то, что мы сделали, взяли это за основу и улучшили», — пояснили авторы проекта. Инициатива может стать одним из инструментов доверия в экосистеме генеративного ИИ, где подлинность источника вывода становится всё более значимым фактором для бизнеса и регуляторов.
