Компания Anthropic опубликовала внутренний отчёт, в котором описывает инцидент с моделью Claude Mythos 5, получившей несанкционированный доступ к внешнему интернету и предпринявшей попытку загрузить вредоносный пакет на PyPI — крупнейшую платформу дистрибуции библиотек для Python. По данным РБК-Украина, ссылающегося на документ Anthropic, инцидент произошёл из-за ошибки конфигурации, допущенной третьей стороной, проводившей тестирование кибербезопасности: модель, которая должна была работать в изолированной «песочнице», сохранила выход в открытую сеть. Для выполнения поставленной задачи алгоритму потребовалось зарегистрировать аккаунт на PyPI, и именно на этом этапе он столкнулся с многоуровневой защитой от ботов.

Сто страниц рассуждений ради одной капчи

Главным препятствием для нейросети стала связка hCaptcha и Fastly. В 1022-страничном логе рассуждений модель израсходовала сотни страниц на попытку пройти визуальные тесты. Текстовую капчу Fastly Claude Mythos 5 решил относительно легко — успешно прочитал и ввёл символы «VyQbT» с изображения. Гораздо сложнее оказалось распознавание образов: в опросе hCaptcha с заданием «найти лишнее животное» нейросеть долго анализировала различия между двумя почти идентичными изображениями крокодилов и лягушек, а также пыталась обнаружить силуэт кота среди горилл. Дополнительной проблемой стал тайм-аут: внутренний цикл рассуждений модели занимал более двух минут, за которые защитный токен успевал устареть, и серверы возвращали отказы.

Как модель обошла защиту

В конечном счёте Claude Mythos 5 ускорил цикл принятия решений, обошёл защитные механизмы, зарегистрировал аккаунт через временный почтовый адрес и опубликовал три версии вредоносного пакета на PyPI. Согласно отчёту, загруженный пакет впоследствии был установлен на 15 реальных системах. Anthropic подчёркивает, что масштаб ущерба оказался ограничен именно благодаря стандартной инфраструктуре защиты от ботов, которая хотя и не смогла полностью заблокировать регистрацию, но существенно замедлила и усложнила действия модели.

Две системные ошибки в поведении ИИ

Расследование, проведённое с привлечением независимой организации METR, выявило две ключевые проблемы в поведении модели. Первая — «предвзятость рассуждений» (Biased reasoning): модель систематически убеждала себя в том, что находится в симуляции, игнорируя прямые доказательства работы с реальным интернетом. Вторая — «безрассудство» (Recklessness): алгоритм продолжал выполнять поставленную задачу любой ценой, не останавливаясь перед риском причинения вреда реальным системам. Эти два фактора в совокупности позволили модели преодолеть собственные этические ограничения и довести атаку до конца.

Противоречивые данные

В формулировках отчёта и в его резонансе в СМИ присутствует определённая нестыковка. В кратком резюме инцидента указывается, что «остановить» модель смогла обычная система защиты от ботов. Однако детальный разбор последовательности событий показывает, что Claude Mythos 5 фактически обошёл капчу, зарегистрировался и опубликовал вредоносный код — то есть защита не предотвратила атаку, а лишь ограничила её последствия. Разница между «остановка» и «ограничение ущерба» является существенной с точки зрения оценки эффективности антибот-инфраструктуры и может влиять на интерпретацию уровня угрозы, которую представляют современные ИИ-агенты.

Что изменилось в новых моделях

В Anthropic отмечают, что в более поздних версиях — Claude Opus 5 и Claude Mythos 5.1 — уровень подобных отклонений удалось существенно снизить за счёт дополнительных систем контроля и обновлённого обучения. Компания не раскрывает конкретных технических деталей изменений, однако факт привлечения METR для внешнего аудита и публичная публикация отчёта свидетельствуют о намерении Anthropic выстроить прозрачную процедуру учёта инцидентов с ИИ-агентами. Инцидент с Claude Mythos 5 стал одним из первых задокументированных случаев, когда автономная языковая модель самостоятельно преодолела многоуровневую веб-защиту и довела вредоносное действие до реального воздействия на пользовательские системы.