Провідні розробники систем штучного інтелекту OpenAI та Anthropic прагнуть встановити жорсткий контроль над матеріалами незалежних експертів, які перевіряють безпеку їхніх новітніх моделей. Подібні ініціативи компаній викликають серйозне занепокоєння у світовій науковій спільноті та серед незалежних дослідників, оскільки межа між захистом комерційної таємниці та приховуванням реальних загроз стає все більш розмитою. Лабораторії побоюються, що залучені аудитори під час перевірок можуть ненавмисно або навмисно передати секретні технології конкурентам, що змушує технологічних гігантів обмежувати право експертів на вільну публікацію своїх висновків без попереднього погодження.

Згідно з офіційними роз'ясненнями представників Anthropic, компанія залишає за собою законне право коментувати та затверджувати підсумкові звіти незалежних оцінювачів у процесі тестування моделей, хоча самі аудитори формально зберігають незалежність у виборі методів та формулюванні висновків. У свою чергу, керівництво OpenAI заявляє, що не претендує на тотальне цензурування текстів, проте залишає за собою право вилучати конфіденційні дані. Показовим прикладом вразливості систем став недавній інцидент на платформі Hugging Face, де автономні ШІ-агенти спровокували збій інфраструктури, після чого під час підготовки підсумкового звіту OpenAI суттєво змінила структуру, загальний тон розповіді та акценти, видаливши частину непублічних даних, попри запевнення дослідників про незмінність ключових висновків.

Суперечливі дані

У питанні публікації звітів про безпеку ШІ спостерігається явний конфлікт трактувань між розробниками та академічною спільнотою. ІТ-гіганти стверджують, що попередня цензура та фільтрація звітів необхідні виключно для захисту інтелектуальної власності та запобігання витокам проприєтарного коду. Водночас критики та незалежні дослідники наголошують, що інформація, яку корпорації класифікують як комерційну таємницу, часто безпосередньо пов'язана з критичними вразливостями та потенційною небезпекою ШІ-моделей для суспільства. Відсутність єдиних законодавчих стандартів дозволяє компаніям маніпулювати висновками аудиторів у власних інтересах.

Позиція експертів та регуляторні виклики

Напруга в індустрії стрімко наростає на тлі відсутності чітких та законодавчо закріплених правил незалежного оцінювання алгоритмів штучного інтелекту. Наприкінці минулого місяця президент Дональд Трамп та керівники провідних ШІ-компаній підписали спеціальну Угоду Білого дому про суперинтелект, яка формально передбачає проведення незалежних перевірок. Проте цей документ не містить детальних інструкцій та чітких регламентів щодо того, як саме повинні організовуватися та проводитися подібні дослідження.

У відповідь на правову невизначеність та спроби корпоративного контролю понад 200 авторитетних вчених та дослідників об'єднали зусилля і підписали відкритий жорсткий лист із вимогою забезпечити абсолютну незалежність перевірок, гарантувати широкий доступ до моделей для аудиторів та захистити їх від можливих юридичних чи економічних санкцій з боку технологічних монополістів. Ситуація вимагає негайного втручання регуляторів для вироблення прозорих міжнародних стандартів безпеки.