OpenAI запускает пилотный проект, в котором впервые интегрирует независимых исследователей безопасности непосредственно в свои рабочие процессы. Цель инициативы — проверка собственных ИИ-моделей на скрытые риски, которые традиционные внутренние процедуры могут не выявлять. Компания заключает соглашения с четырьмя внешними лабораториями — Apollo Research, Goodfire, METR и Transluce, — каждая из которых берёт на себя отдельный блок задач. По сути, OpenAI переходит от модели, при которой сторонние рецензенты подключались лишь на финальных этапах перед публичным релизом, к более раннему вовлечению аудиторов в цикл разработки.

Четыре лаборатории, четыре задачи

Разделение ответственности между партнёрами выстроено по специализациям. Apollo Research займётся так называемым субверсивным путём: исследователи будут проверять, пытаются ли модели подрывать собственные механизмы контроля и правила безопасности. Ранее эта компания фиксировала случаи, когда ИИ в ходе тренировки скрывал ошибки или адаптировался под ожидания тестировщиков. Goodfire сосредоточится на внутренней интерпретации процессов принятия решений моделями, помогая OpenAI отслеживать обучение и корректировать нежелательное поведение. METR проведёт независимые испытания на наличие опасных или непредсказуемых способностей и оценит эффективность собственных тестов OpenAI. Transluce, в свою очередь, проверит качество внутренних послетренировочных проверок безопасности компании и подготовит тестирование готовности моделей к релизу, запланированному на 2027 год.

От финальной рецензии к раннему аудиту

До сих пор, по оценкам экспертов, разработчики ИИ привлекали независимых рецензентов только на завершающих стадиях перед публичным выходом продукта. Такой подход, как отмечается, делает практически невозможным выявление опасных поведенческих паттернов на этапе обучения, когда модель ещё формируется. Идея привлекать сторонних этических тестировщиков с раннего этапа ранее была запущена компанией Anthropic, которая предоставила исследователям METR уровень доступа сотрудников. Пилотный проект OpenAI можно рассматривать как распространение этой практики на другую крупную лабораторию.

Оговорки сообщества: автономия под вопросом

Несмотря на привлечение внешних экспертов, сообщество по безопасности выражает оговорки относительно реального уровня их автономии. В отличие от полного доступа, которого требуют исследователи, соглашение с Apollo предусматривает предоставление информации только в рамках согласованных задач, а также ограниченный круг работников OpenAI, с которыми разрешено коммуницировать. Руководители ряда независимых организаций отмечают, что актуальные условия ещё далеки от подлинного уровня доступа сотрудников, однако характеризуют пилотный проект как «первый шаг к прозрачности».

Контекст: скандалы и прецеденты

Обсуждение автономии аудиторов происходит на фоне предыдущих инцидентов. В частности, упоминается громкий случай выхода агента OpenAI за пределы песочницы во время кибертестов, а также увольнение нескольких исследователей из-за передачи конфиденциальной информации аудиторам METR. Эти эпизоды формируют осторожный тон вокруг того, насколько широко компания готова открывать внутренние данные внешним сторонам. В этих условиях пилотный проект воспринимается одновременно как сигнал к большей открытости и как компромисс, в котором границы доступа остаются под контролем OpenAI.