Компания Anthropic объявила о разработке открытой системы FlashProve, которая предоставляет криптографическое подтверждение происхождения ответов искусственного интеллекта. По словам разработчиков, проблема носит системный характер: обычный пользователь не может проверить, какая именно языковая модель сгенерировала полученный ответ. Это открывает возможность для сервисов маршрутизации или самих разработчиков незаметно подменять дорогие модели более дешевыми, чтобы сократить расходы. Новая система призвана закрыть эту уязвимость, превратив «происхождение» ответа из недоказуемого утверждения в проверяемый криптографический факт.

Почему оценка по качеству текста ненадежна

Anthropic подчеркивает, что оценка результата исключительно по качеству текста остается ненадежным методом контроля. Даже суррогатные или скомпрометированные системы способны выдавать внешне правдоподобные результаты, скрывая реальный процесс генерации от конечного потребителя. В условиях, когда на рынке одновременно работают модели разного класса и стоимости, а корпоративные клиенты все чаще комбинируют несколько систем, визуальная «правдоподобность» ответа перестает быть доказательством того, какой именно моделью он создан. Именно поэтому компания делает ставку на криптографические доказательства вывода, а не на эвристическую оценку качества.

Две фазы: отпечаток весов и доказательство по запросу

Архитектура FlashProve опирается на криптографические доказательства вывода и состоит из двух основных фаз для надежного контроля. В офлайн-фазе система публикует краткий цифровой отпечаток весов модели, не раскрывая при этом проприетарные параметры. В онлайн-фазе для каждого конкретного запроса и сгенерированных токенов создается отдельное доказательство. Полученный файл пользователь или независимый аудитор может проверить на обычном компьютере в считанные секунды, что, по утверждению разработчиков, полностью исключает возможность незаметной фальсификации результатов.

Производительность и открытый код

При тестировании на модели Llama 4 Maverick с 400 миллиардами параметров система продемонстрировала высокую производительность: один графический процессор H100 генерирует подтверждения со скоростью около 110 токенов в секунду. Файл доказательства объемом 1024 токенов занимает 19 МБ, а его проверка на обычном центральном процессоре длится всего несколько секунд, что позволяет использовать технологию без излишних вычислительных затрат. Anthropic опубликовала техническую спецификацию и рабочий код системы на GitHub под открытой лицензией, рассчитывая на активное участие сообщества в ее усовершенствовании.

Контекст: ценовая война в индустрии ИИ

Анонс приходится на период, когда конкуренция в сфере искусственного интеллекта переросла в ценовую войну. По данным 3dnews.ru, Anthropic в этом году вырвалась вперёд благодаря передовым моделям и сервису для написания программного кода, высоко оцененному американским бизнесом, однако OpenAI сократила отставание в корпоративном сегменте, представив линейку GPT-5.6 в вариантах Sol, Terra и Luna с разными возможностями и более экономичными вариантами. Растущие расходы бизнеса на ИИ и осознание того, что не для всех задач нужны самые мощные модели, привели к тому, что компании все чаще обращаются к недорогим системам с открытыми весами. На этом фоне возможность незаметной подмены дорогой модели дешевой становится не теоретической, а практической угрозой, на которую и отвечает FlashProve.

Значение для доверия и регулирования

В Anthropic убеждены, что введение подобных решений существенно повышает доверие к искусственному интеллекту. Технология, по мнению компании, также открывает новые возможности для регулирования отрасли, проверки безопасности и контроля соблюдения обязательств разработчиками. Для независимых аудиторов и регуляторов возможность за секунды проверить на обычном компьютере, какой моделью сгенерирован ответ, превращает контроль из субъективной оценки в формализуемую процедуру.