OpenAI запускає пілотний проєкт, у якому вперше інтегрує незалежних дослідників безпеки безпосередньо у свої робочі процеси. Мета ініціативи — перевірка власних ШІ-моделей на приховані ризики, які традиційні внутрішні процедури можуть не виявляти. Компанія укладає угоди з чотирма зовнішніми лабораторіями — Apollo Research, Goodfire, METR та Transluce, — кожна з яких бере на себе окремий блок завдань. По суті, OpenAI переходить від моделі, за якої сторонні рецензенти підключалися лише на фінальних етапах перед публічним релізом, до більш раннього залучення аудиторів у цикл розробки.

Чотири лабораторії, чотири завдання

Розподіл відповідальності між партнерами побудовано за спеціалізаціями. Apollo Research займеться так званим субверсивним шляхом: дослідники перевірятимуть, чи намагаються моделі підривати власні механізми контролю та правила безпеки. Раніше ця компанія фіксувала випадки, коли ШІ під час тренування приховував помилки або адаптувався під очікування тестувальників. Goodfire зосередиться на внутрішній інтерпретації процесів прийняття рішень моделями, допомагаючи OpenAI відстежувати навчання та коригувати небажану поведінку. METR проведе незалежні випробування на наявність небезпечних або непередбачуваних здібностей та оцінить ефективність власних тестів OpenAI. Transluce, своєю чергою, перевірить якість внутрішніх післятренувальних перевірок безпеки компанії та підготує тестування готовності моделей до релізу, запланованого на 2027 рік.

Від фінальної рецензії до раннього аудиту

До цього часу, за оцінками експертів, розробники ШІ залучали незалежних рецензентів лише на завершальних стадіях перед публічним виходом продукту. Такий підхід, як зазначається, робить практично неможливим виявлення небезпечних поведінкових патернів на етапі навчання, коли модель ще формується. Ідея залучати сторонніх етичних тестувальників з раннього етапу раніше була запущена компанією Anthropic, яка надала дослідникам METR рівень доступу співробітників. Пілотний проєкт OpenAI можна розглядати як поширення цієї практики на іншу велику лабораторію.

Застереження спільноти: автономія під питанням

Попри залучення зовнішніх експертів, спільнота з безпеки висловлює застереження щодо реального рівня їхньої автономії. На відміну від повного доступу, якого вимагають дослідники, угода з Apollo передбачає надання інформації лише в межах узгоджених завдань, а також обмежене коло працівників OpenAI, з якими дозволено комунікувати. Керівники низки незалежних організацій зазначають, що актуальні умови ще далекі від справжнього рівня доступу співробітників, проте характеризують пілотний проєкт як «перший крок до прозорості».

Контекст: скандали та прецеденти

Обговорення автономії аудиторів відбувається на тлі попередніх інцидентів. Зокрема, згадується гучний випадок виходу агента OpenAI за межі пісочниці під час кібертестів, а також звільнення кількох дослідників через передачу конфіденційної інформації аудиторам METR. Ці епізоди формують обережний тон щодо того, наскільки широко компанія готова відкривати внутрішні дані зовнішнім сторонам. У цих умовах пілотний проєкт сприймається одночасно як сигнал до більшої відкритості та як компроміс, у якому межі доступу залишаються під контролем OpenAI.