--- title: "Anthropic предупредила инвесторов: ИИ может приближаться к порогу самосовершенствования" description: "Anthropic в отчете для инвесторов предупредила, что может приближаться к порогу рекурсивного самосовершенствования ИИ. Компания подчеркивает: ни одна модель этот предел не пересекла, но контроль человека в процессе сохранится." date: 2026-11-03T11:18:38.639Z lang: ru url: https://xab.info/posts/anthropic-rsi-ii-samosovershenstvovanie tags: [anthropic, artificial-intelligence, recursive-self-improvement, ai-safety, openai] author: "Александр Буран" publisher: "XAB.info" --- # Anthropic предупредила инвесторов: ИИ может приближаться к порогу самосовершенствования ![Прозрачный футуристический монитор на деревянном столе с визуализацией алгоритмов и самосовершенствования ИИ Anthropic Claude](https://xab.info/media/2026/11/03/anthropic-rsi-ii-samosovershenstvovanie/anthropic-rsi-ii-samosovershenstvovanie-1.webp) ## Ключевые тезисы - Anthropic в отчете для инвесторов заявила, что может приближаться к порогу рекурсивного самосовершенствования (RSI) по своей политике ответственного масштабирования. - Компания подчеркивает, что ни одна текущая модель этот предел еще не пересекла, а полный переход к автономному проектированию новых архитектур не планируется. - Позиция Anthropic совпадает с предупреждением Сэма Альтмана на заседании Совбеза ООН о том, что скорость развития ИИ может опережать способность людей и институтов реагировать. Anthropic, одна из ведущих лабораторий в области передового искусственного интеллекта, в отчете для инвесторов предупредила, что технологии могут начать самостоятельно создавать и совершенствовать свои последующие поколения быстрее, чем прогнозировали эксперты. Об этом сообщает РБК-Украина со ссылкой на документацию компании. В ней разработчики прямо указывают на риск, при котором эволюция возможностей моделей значительно опередит способность инженеров внедрять средства безопасности и выравнивания (alignment). ### Что такое рекурсивное самосовершенствование Рекурсивное самосовершенствование (RSI, recursive self-improvement) наступает в тот момент, когда искусственный интеллект становится настолько эффективным в обучении подобных же систем, что процесс развития технологий начинает двигаться с небывалым ускорением. По внутренним оценкам Anthropic, компания может приближаться к порогу RSI, зафиксированному в ее политике ответственного масштабирования. При этом разработчики подчеркивают: ни одна из текущих моделей еще не пересекла этот предел, а ранее компания фиксировала резкий рост производительности новых моделей только после того, как он уже произошел. ### Две полярные оценки одного процесса Критики и сторонники RSI смотрят на этот процесс по-разному. Пессимисты считают рекурсивное самосовершенствование критическим пределом, после которого алгоритмы выйдут из-под контроля людей и начнут развиваться независимо. Оптимисты, напротив, видят в этом инструменте источник небывалой производительности научных открытий и инженерных прорывов. В Anthropic акцентируют внимание на том, что ИИ-модели стремительно прогрессируют в программировании, математике и кибербезопасности, и на этом фоне вопрос контроля их способности самостоятельно совершенствоваться становится все острее. ### Контроль человека и пересмотр политики безопасности Руководство Anthropic обещает «сохранять значимый контроль и непосредственное участие человека в процессе расследований и создания последующих поколений ИИ». Полная автономия систем при проектировании новых архитектур, по заявлению компании, пока не планируется. Политика безопасности пересматривается с целью предотвращения потери контроля за развитием технологий. Таким образом, даже при приближении к порогу RSI компания декларирует сохранение человека в контуре принятия решений. ### Контекст: предупреждения из OpenAI и на уровне ООН Позиция Anthropic не изолирована. Глава OpenAI Сэм Альтман на заседании Совета Безопасности ООН, посвященном искусственному интеллекту, заявил, что риск заключается в том, что все происходит настолько быстро, что люди больше не могут следить за происходящим или вмешиваться в случае необходимости. По его словам, автоматизация самого процесса разработки ИИ может привести к резкому ускорению развития технологии, а системы уже становятся более автономными, поэтому государственным и международным институтам необходимо учитывать эту скорость при выработке подходов к регулированию. Совокупность этих заявлений указывает на то, что вопрос рекурсивного самосовершенствования перестает быть гипотетическим: ведущие лаборатории открыто обсуждают его как практический сценарий, требующий пересмотра политик безопасности и механизмов международного регулирования. ## Проверка фактов и источники - [ИИ может начать совершенствовать сам себя: почему Anthropic боится потерять контроль](https://www.rbc.ua/ukr/news/shi-mozhe-pochati-vdoskonalyuvati-sam-sebe-1793698716.html) - Первоисточник: отчет Anthropic для инвесторов о приближении к порогу RSI, обещание контроля человека, пересмотр политики безопасности. Приближение к порогу — внутренняя оценка компании. - [ИИ может начать развиваться без участия человека](https://www.klerk.ru/buh/news/710419/) - Заявление С. Альтмана на заседании Совбеза ООН о скорости развития ИИ и риске потери возможности вмешательства; контекст, согласующийся с позицией Anthropic. ## Частые вопросы ### Что такое рекурсивное самосовершенствование (RSI)? Это состояние, при котором ИИ становится настолько эффективным в обучении подобных систем, что процесс развития технологий начинает ускоряться. Anthropic определяет порог RSI в своей политике ответственного масштабирования. ### Пересекли ли текущие модели Anthropic порог RSI? Нет. Компания прямо подчеркивает, что ни одна из текущих моделей этот предел еще не пересекла, а приближение к нему — внутренняя оценка. ### Планирует ли Anthropic полностью автономное создание новых моделей ИИ? Нет. Руководство заявляет, что полная автономия систем при проектировании новых архитектур пока не планируется, а человек сохранит значимый контроль и непосредственное участие.