В конце июля 2026 года компания OpenAI приняла решение о расформировании подразделения Preparedness — команды, которая занималась оценкой рисков от наиболее мощных искусственных интеллектов. Об этом сообщает Financial Times, отмечая, что функции отдела теперь распределены между другими подразделениями компании. Это решение стало очередным этапом в масштабной перестройке внутренней структуры OpenAI, которая в последние годы стремительно меняет подходы к управлению безопасностью ИИ.
Закрытие команды Preparedness: что это значит для безопасности ИИ?
Команда Preparedness занималась сценариями, при которых продвинутый ИИ мог бы самостоятельно атаковать чужие системы, использовать киберинструменты или способствовать созданию биологических угроз. Теперь оценкой рисков в этих направлениях будут заниматься уже существующие отделы. В OpenAI утверждают, что сама работа никуда не исчезает, а её интеграция непосредственно в разработку моделей и продуктов может сделать систему безопасности эффективнее.
Однако эксперты в области ИИ-безопасности выражают опасения, что размытие ответственности между отделами может привести к снижению качества оценки рисков. По мнению критиков, специализированные команды, такие как Preparedness, были необходимы для глубокого анализа экзистенциальных угроз, которые могут возникнуть при развитии сверхразумного ИИ.
История перестановок в OpenAI: от AGI Readiness до Preparedness
Решение о закрытии Preparedness выглядит особенно заметно на фоне предыдущих перестановок в компании. За последние два года OpenAI уже закрыла AGI Readiness и Mission Alignment — подразделения, также занимавшиеся вопросами безопасности и соответствия миссии OpenAI. Кроме того, компанию покинули операционный директор Брэд Лайткап и главный специалист по этике Хлоя Бакалар.
Бывший руководитель Preparedness Дилан Скандирано теперь сосредоточился на рисках самоулучшающегося ИИ, хотя созданной им команды больше нет. Эти кадровые изменения и структурные реформы свидетельствуют о том, что OpenAI переосмысливает свой подход к безопасности ИИ, переходя от создания специализированных отделов к интеграции вопросов безопасности в основные процессы разработки.
Противоречивые данные: эффективность интеграции vs. риск потери экспертизы
С одной стороны, OpenAI утверждает, что интеграция оценки рисков в разработку моделей и продуктов сделает систему безопасности более эффективной. С другой стороны, эксперты указывают на то, что специализированные команды, такие как Preparedness, были необходимы для глубокого анализа экзистенциальных угроз, которые могут возникнуть при развитии сверхразумного ИИ.
Критики опасаются, что размытие ответственности между отделами может привести к снижению качества оценки рисков. По их мнению, специализированные команды должны оставаться независимыми и иметь возможность проводить глубокий анализ угроз без давления со стороны коммерческих интересов компании.
Контекст: преддверие IPO и давление инвесторов
Решение о закрытии Preparedness было принято в преддверии возможного IPO OpenAI, которое ожидается в 2026 году. По данным источников, компания сталкивается с давлением инвесторов, которые требуют большей прозрачности и эффективности в управлении рисками. В этих условиях OpenAI, возможно, решила оптимизировать свою структуру, чтобы соответствовать ожиданиям рынка.
Однако эксперты предупреждают, что стремление к оптимизации не должно идти в ущерб безопасности. В условиях, когда ИИ становится всё более мощным и автономным, вопросы безопасности должны оставаться приоритетом, даже если это требует дополнительных ресурсов и специализированных команд.
Выводы: баланс между эффективностью и безопасностью
Решение OpenAI о закрытии команды Preparedness отражает сложный баланс между эффективностью и безопасностью в условиях стремительного развития ИИ. С одной стороны, интеграция оценки рисков в основные процессы разработки может сделать систему безопасности более гибкой и адаптивной. С другой стороны, потеря специализированных команд может привести к снижению качества оценки экзистенциальных угроз.
В конечном итоге, успех этого решения будет зависеть от того, насколько эффективно OpenAI сможет интегрировать вопросы безопасности в свои процессы разработки, не теряя при этом глубины анализа и независимости оценки рисков. Для всей индустрии ИИ это решение может стать важным прецедентом, показывающим, как крупные компании подходят к управлению рисками в условиях быстрого технологического прогресса.
