Компанія Anthropic оголосила про розробку відкритої системи FlashProve, яка надає криптографічне підтвердження походження відповідей штучного інтелекту. За словами розробників, проблема має системний характер: звичайний користувач не може перевірити, яка саме языкова модель згенерувала отриману відповідь. Це відкриває можливість для сервісів маршрутизації або самих розробників непомітно підміняти дорогі моделі дешевшими, щоб скоротити витрати. Нова система покликана закрити цю вразливість, перетворивши «походження» відповіді з недоказового твердження на перевірюваний криптографічний факт.
Чому оцінка за якістю тексту є ненадійною
Anthropic наголошує, що оцінка результату виключно за якістю тексту залишається ненадійним методом контролю. Навіть сурогатні чи скомпрометовані системи здатні видавати зовнішньо правдоподібні результати, приховуючи реальний процес генерації від кінцевого споживача. В умовах, коли на ринку одночасно працюють моделі різного класу та вартості, а корпоративні клієнти все частіше комбінують кілька систем, візуальна «правдоподібність» відповіді перестає бути доказом того, якою саме моделлю її створено. Саме тому компанія робить ставку на криптографічні докази висновку, а не на евристичну оцінку якості.
Дві фази: відбиток вагів і доказ за запитом
Архітектура FlashProve спирається на криптографічні докази висновку та складається з двох основних фаз для надійного контролю. В офлайн-фазі система публікує короткий цифровий відбиток вагів моделі, не розкриваючи при цьому проприєтарні параметри. В онлайн-фазі для кожного конкретного запиту та згенерованих токенів створюється окремий доказ. Отриманий файл користувач або незалежний аудитор може перевірити на звичайному комп'ютері за лічені секунди, що, за твердженням розробників, повністю виключає можливість непомітної фальсифікації результатів.
Продуктивність і відкритий код
Під час тестування на моделі Llama 4 Maverick із 400 мільярдами параметрів система продемонструвала високу продуктивність: один графічний процесор H100 генерує підтвердження зі швидкістю близько 110 токенів за секунду. Файл доказу об'ємом 1024 токени займає 19 МБ, а його перевірка на звичайному центральному процесорі триває всього кілька секунд, що дозволяє використовувати технологію без зайвих обчислювальних витрат. Anthropic опублікувала технічну специфікацію та робочий код системи на GitHub під відкритою ліцензією, розраховуючи на активну участь спільноти в її вдосконаленні.
Контекст: цінова війна в індустрії ШІ
Анонс припадає на період, коли конкуренція у сфері штучного інтелекту переросла в цінову війну. За даними 3dnews.ru, Anthropic цього року вирвалася вперед завдяки передовим моделям та сервісу для написання програмного коду, високого оціненого американським бізнесом, проте OpenAI скоротила відставання в корпоративному сегменті, представивши лінійку GPT-5.6 у варіантах Sol, Terra і Luna з різними можливостями та більш економічними варіантами. Зростаючі витрати бізнесу на ШІ та усвідомлення того, що не для всіх завдань потрібні найпотужніші моделі, призвели до того, що компанії все частіше звертаються до недорогих систем з відкритими вагами. На цьому тлі можливість непомітної підміни дорогої моделі дешевою стає не теоретичною, а практичною загрозою, на яку й відповідає FlashProve.
Значення для довіри та регулювання
В Anthropic переконані, що запровадження подібних рішень суттєво підвищує довіру до штучного інтелекту. Технологія, на думку компанії, також відкриває нові можливості для регулювання галузі, перевірки безпеки та контролю дотримання зобов'язань розробниками. Для незалежних аудиторів і регуляторів можливість за секунди перевірити на звичайному комп'ютері, якою моделлю згенеровано відповідь, перетворює контроль із суб'єктивної оцінки на формалізовану процедуру.
