Anthropic накануне подала уточнённую форму S-1/A, в которой помимо финансовых показателей раскрыла примечательную техническую деталь: компания находится на пороге создания модели искусственного интеллекта, способной к рекурсивному самосовершенствованию (Recursive Self-Improvement, RSI). Это понятие обозначает этап, на котором ИИ становится настолько эффективным в собственном обучении, что его возможности начинают расти с резким ускорением. Для сторонников осторожного развития ИИ RSI воспринимается как точка невозврата — момент, после которого система может выйти из-под контроля. Для энтузиастов технология, напротив, символизирует реализацию полного потенциала ИИ: рост продуктивности, научные открытия и иные достижения.

Компания сама ввела RSI в число факторов риска

Обозначение RSI вошло в обиход относительно недавно и поначалу воспринималось как недостижимая цель — эффект, который крайне сложно реализовать на практике. Теперь же Anthropic указала его среди факторов риска в публичном документе. Компания отметила, что уже использует ИИ в исследованиях и разработке, включая создание новых моделей, «чьи качественные скачки в возможностях своевременно не были замечены». В ближайшем будущем, по её словам, прогресс может значительно ускориться именно за счёт применения ИИ.

«Политика ответственного масштабирования» и порог ускорения

В Anthropic подчёркивают, что RSI несёт в себе как огромные возможности, так и серьёзные риски. В документе компания предостерегает: использование ИИ для создания более совершенных систем ИИ «может представлять значительную угрозу безопасности, особенно если это резко ускорит темпы прогресса». Это один из аспектов, учитываемых в «Политике ответственного масштабирования», где изложены планы по мониторингу и снижению рисков по мере приближения к рекурсивному самосовершенствованию. Внутренние оценки и прогнозы компании указывают, что в скором времени может быть достигнут порог «обусловленного ИИ значительного ускорения прогресса». При этом на данный момент ни одна из моделей Anthropic не классифицируется как преодолевшая этот порог, и компания продолжает анализировать соответствующие данные.

Автономность под контролем человека

Anthropic также заявила, что не рассчитывает в значительной мере полагаться на существующие ИИ-системы для «полностью автономного проектирования и создания последующих поколений передовых моделей без значимого контроля или понимания со стороны человека — даже если (и когда) это станет технически возможным». Таким образом, компания фиксирует намерение сохранять человеческий надзор над процессом разработки даже в сценарии, когда технические ограничения будут сняты.

Маркетинг или сигнал?

Отдельное мнение состоит в том, что форма S-1 может выступать не только средством раскрытия информации, но и маркетинговым материалом. Тем не менее за последний год ИИ Anthropic совершил заметный скачок в научной области, и если в самой компании считают высокую вероятность наступления RSI, то, по оценке авторов публикации, к этому стоит отнестись серьёзно. Документ остаётся важным публичным сигналом о том, как крупнейшие разработчики ИИ оценивают собственные риски и готовятся к потенциальному резкому ускорению развития моделей.