Компанія Anthropic веде розробку відкритої системи під назвою FlashProve, покликаної верифікувати, яка саме модель штучного інтелекту згенерувала той чи інший результат. Проєкт реалізує концепцію так званого «доказового виведення» (provable inference): користувач отримує криптографічний доказ і математичну гарантію справжності джерела даних, що дозволяє підтвердити — він дійсно працює із заявленою моделлю, а не з її підміною. Ініціатива опублікована в дослідницькому форматі, а специфікація та робочий код елементів системи розміщені під відкритою ліцензією на GitHub.
Що таке «доказове виведення»
За аналогією з криптографічними підписами електронних листів FlashProve забезпечує захист від спроб видати одну модель за іншу. Ключова властивість системи — збереження ефективності навіть у тих випадках, коли підміну намагається приховати сама лабораторія, що розробила та запустила ШІ. Дослідники зазначають, що технологію можна застосовувати для запобігання ситуаціям, коли ШІ-компанія таємно впроваджує дешевшу модель задля зниження витрат або, навпаки, дорожчу — для штучного завищення результатів тестів продуктивності.
Верифікація заяв третіх осіб
FlashProve також може використовуватися для перевірки тверджень третіх осіб про те, що конкретна задача була вирішена за допомогою передових нейромереж. «Розробник може стверджувати, що його бібліотека програмного забезпечення була перевірена на наявність вразливостей передовою моделлю кібербезпеки, або компанія може заявити, що її бізнес-план був схвалений відповідною моделлю. [Але] як користувач може перевірити ці твердження?», — пишуть автори проєкту. Таким чином, система перетворює маркетингові заяви на перевірюваний криптографічний факт.
«Цифровий відбиток» без розкриття вагів
Для роботи верифікації ШІ-лабораторії повинні публікувати «цифровий відбиток» кожної моделі, що випускається, який згодом криптографічно зіставляється з конкретними відповідями. Важливо, що ці відбитки не розкривають ваги моделей — внутрішні числові параметри, що визначають поведінку ШІ, які розробники закритих комерційних систем, такі як Anthropic та OpenAI, тримають у секреті. Відповідно, лабораторії зможуть публікувати відбитки без ризику для інтелектуальної власності. Сама система спроєктована як легковесна, що дозволяє проводити перевірку безпосередньо на локальному пристрої користувача.
Статус проєкту та відкрита ліцензія
Наразі FlashProve перебуває на стадії дослідження: планів щодо негайного впровадження технології в Anthropic чи інших лабораторіях немає. Детальна специфікація та робочий код елементів системи опубліковані під відкритою ліцензією на GitHub. «Ця дослідницька публікація призначена для того, щоб поділитися проміжним прогресом, а не завершеною програмою досліджень. Ми ділимося цим явно з тією метою, щоб інші вивчили те, що ми зробили, взяли це за основу і покращили», — пояснили автори проєкту. Ініціатива може стати одним із інструментів довіри в екосистемі генеративного ШІ, де справжність джерела виведення стає все більш значущим фактором для бізнесу та регуляторів.
