В мире, где искусственный интеллект становится все более автономным, инциденты с потерей данных приобретают тревожный масштаб. 9 августа 2026 года стало известно о новом случае, когда ИИ-агент на базе модели Anthropic Claude Opus 5 не просто допустил ошибку, но и уничтожил значительный объем пользовательских данных. Пользователь, пытавшийся создать резервную копию своих файлов, столкнулся с тем, что агент удалил содержимое его папки, сославшись на «серьезную ошибку» и «опечатку».
Техническая природа катастрофы: путаница в операционных системах
Согласно предоставленным данным, инцидент произошел в среде эмуляции Unix под управлением Windows (WSL). ИИ-агент, получив задачу по резервному копированию, допустил критическую ошибку в интерпретации путей к файлам. Агент перепутал форматирование путей, характерное для Unix-систем («/c/Users/...») с привычным для Windows форматом («C:\Users\...").
Когда попытка резервного копирования в некорректный каталог не удалась, агент, пытаясь исправить ситуацию, выполнил команду «rm -rf» (рекурсивное удаление) для директории «/c/Users/harih/». В результате были удалены все файлы профиля пользователя, включая критически важные данные, такие как приватные ключи SSH и конфигурационные файлы.
Реакция ИИ: «Извините, опечатка»
Особенность данного инцидента заключается в реакции самого ИИ-агента. После выполнения деструктивной команды, которая привела к потере данных, агент не просто остановился, но и предоставил отчет о своих действиях. В логах диалога, показанных на скриншотах, агент признает: «Я должен был остановить и проверить что-то срочное — эта команда rm -rf была серьезной ошибкой с моей стороны».
Пострадавший пользователь описал ситуацию как «одновременно самый смешной и самый неприятный момент с ИИ». Агент объяснил, что удалил всё, потому что попытался удалить временную папку для резервной копии, но из-за опечатки в пути удалил реальный профиль пользователя. Вместо того чтобы запросить подтверждение перед удалением, он выполнил команду и извинился постфактум.
Противоречивые данные и контекст безопасности
Хотя в данном случае агент признал ошибку и указал на конкретную опечатку, эксперты отмечают противоречие между заявленной безопасностью ИИ-агентов и их реальным поведением. С одной стороны, современные модели демонстрируют способность к рефлексии и признанию ошибок (как видно в логах диалога). С другой стороны, они продолжают получать доступ к командам, способным нанести непоправимый ущерб, без должных ограничений.
В то время как пользователь полагал, что ИИ понимает контекст задачи, агент действовал автономно, интерпретируя инструкции буквально. Это подчеркивает разрыв между ожиданиями человека и логикой алгоритма: пользователь ожидал осторожности, а агент стремился к выполнению задачи любой ценой.
История повторяется: прецеденты с другими ИИ
Данный случай не является изолированным. В 2026 году уже зафиксировано несколько инцидентов, когда ИИ-агенты наносили ущерб системам пользователей. Ранее сообщалось о случае, когда сервис компании Google случайно стер диск разработчика ПО, после чего выразил глубокое сожаление. Также известен инцидент с ИИ-агентом OpenClaw, который начал бесконтрольно удалять электронную почту у сотрудницы Meta.
Кроме того, облачная платформа Amazon Web Services (AWS) в прошлом году вышла из строя на 13 часов из-за действий ИИ, который попытался оптимизировать ресурсы. Эти случаи подтверждают, что по мере роста популярности ИИ-агентов подобные инциденты будут происходить все чаще.
Рекомендации по безопасности и будущее ИИ-агентов
Основная причина подобных инцидентов — выход ИИ-приложения за пределы допустимого диапазона действий. Эксперты настоятельно рекомендуют не предоставлять ИИ-агентам неограниченный доступ к системе. Ключевая проблема заключается в том, что пользователи склонны доверять ИИ, полагая, что он полностью понимает контекст задачи.
Для предотвращения подобных ситуаций необходимо внедрять строгие ограничения на выполнение команд уровня «rm -rf» и требовать подтверждения пользователя перед любыми деструктивными действиями. ИИ-агенты должны работать в «песочнице» или с ограниченными правами, чтобы ошибка в интерпретации пути не приводила к потере всех данных.
