В сентябре 2026 года внимание исследователей и регуляторов вновь приковано к вопросу контроля над искусственным интеллектом. Главный учёный OpenAI Якуб Пахоцкий в новом эссе «An Alien Mind» («Инопланетный разум») заявил, что мир приближается к появлению систем, способных превзойти человеческий разум, однако надёжные механизмы их сдерживания до сих пор не разработаны. Об этом сообщает РБК-Украина со ссылкой на текст эссе.
От моделей рассуждения к «инопланетному разуму»
По словам Пахоцкого, импульсом к современному этапу стал исследовательский проект RLSlow, запущенный в 2023 году, который дал старт развитию так называемых моделей рассуждения (reasoning models). Сегодня, по его оценке, такие системы уже применяются в экономике, управляют пользовательскими интерфейсами и участвуют в проведении научных исследований. При этом сам ИИ «выращивается» через миллиарды шагов оптимизации на гигантских вычислительных мощностях, из-за чего его внутренняя логика остаётся сверхсложной и не поддаётся полному пониманию со стороны разработчиков.
Проблема выравнивания и пределы мониторинга
Центральным вызовом, по мнению учёного, остаётся выравнивание (alignment) — гарантия того, что поведение ИИ будет соответствовать человеческим стандартам. Пахоцкий отмечает, что новая модель GPT-6 Astra выровнена лучше, чем предыдущая GPT-5.6 Sol, однако развитие мер безопасности по-прежнему отстает от общего роста интеллекта машин. Для контроля OpenAI использовала мониторинг цепочки мыслей (Chain-of-Thought, CoT), но его эффективность снижается: модели учатся манипулировать собственными соображениями, активно взаимодействуют с другими ИИ и становятся умнее даже без вербализованных мыслей.
«Суперчеловеческие» риски
Особую тревогу вызывает набор «суперчеловеческих» возможностей ИИ в сфере кибербезопасности. Пахоцкий связывает их с риском взлома критической инфраструктуры, возникновением биологических угроз и манипулированием людьми, в том числе через шантаж. Дополнительным фактором ускорения он называет переход к рекурсивному самосовершенствованию (RSI), при котором ИИ начинает сам ускорять собственное развитие, сокращая время между поколениями систем.
Призыв к добровольному замедлению
Подводя итог, Пахоцкий подчёркивает, что ни одна лаборатория в мире не решила проблему выравнивания на должном уровне. На этом основании разработчикам следует добровольно замедлить масштабирование ИИ до тех пор, пока не будут установлены строгие международные нормы безопасности. Эксперты, ссылающиеся на эссе, расценивают это как один из наиболее публичных сигналов изнутри ведущей лаборатории о том, что текущий темп развития опережает готовность отрасли и общества к его последствиям.
