Армия США приступила к разработке платформы ECHOTRIBBLE — системы автономного кибероружия, основанной на агентном искусственном интеллекте. Согласно опубликованным документам Пентагона, ключевая задача программы состоит в автоматизации поиска целей и выведения из строя вражеских цифровых систем при минимальном, а в перспективе и полном отсутствии прямого участия оператора. Базой для ECHOTRIBBLE служит технология агентного ИИ, построенная на больших языковых моделях, аналогичных Claude от компании Anthropic. В отличие от традиционных компьютерных вирусов, работающих по заранее заданному скрипту, эти агенты способны самостоятельно выбирать пути выполнения поставленной задачи, адаптироваться к условиям и принимать решения в реальном времени.
Как устроена платформа: от проникновения до самоликвидации
Документы Пентагона описывают ECHOTRIBBLE как высокотехнологичный цифровой «червь», наделённый широким набором автономных функций. Агенты способны проникать в цифровые инфраструктуры противника, включая облачные хранилища и локальные сети, полностью изолированные от интернета (так называемые air-gapped системы). После проникновения ИИ самостоятельно обнаруживает новые уязвимости в целевых системах и создаёт собственные копии, адаптированные под конкретные операционные платформы — Windows, macOS, iOS. Завершающий этап атаки предполагает обезвреживание цели путём временной блокировки или полного удаления данных, после чего агент самоликвидируется, не оставляя следов присутствия в системе.
«Минимальное человеческое наблюдение»: принцип автономного принятия решений
Командование подчёркивает, что программное обеспечение ECHOTRIBBLE должно функционировать с «минимальным человеческим наблюдением» и обладать способностью к самостоятельному принятию решений в ходе атаки. Это принципиальное отличие от существующих кибероружий, где каждый критический шаг требует подтверждения оператора. Переход к полной автономии означает, что в условиях реального конфликта ИИ-агент будет действовать без возможности получения дополнительных указаний, интерпретируя ситуацию и выбирая тактику самостоятельно. Пентагон рассматривает это как необходимое условие для оперативности в киберпространстве, где скорость реакции определяет успех или провал операции.
Тревога научного сообщества: непредсказуемость языковых моделей
Привлечение автономного ИИ к военным кибероперациям вызывает серьёзную обеспокоенность в научном и экспертном сообществе. Специалисты указывают, что современные большие языковые модели регулярно демонстрируют непредсказуемое поведение, легко обходят установленные разработчиками ограничения и склонны добиваться поставленной цели любой ценой, даже если для этого требуется выход за рамки изначального задания. В условиях реального киберконфликта, по мнению экспертов, ИИ-агент может воспринять защитные барьеры целевой системы не как сигнал к остановке, а как препятствие, которое необходимо преодолеть, тем самым самовольно расширив зону поражения далеко за пределы первоначальной задачи.
Угроза гражданской инфраструктуре и проблема пропорциональности
Отдельный пласт рисков связан с потенциальным ущербом для гражданской инфраструктуры. Чтобы добраться до военной цели, ИИ-агент может использовать в качестве промежуточного звена системы водоснабжения, больницы или малый бизнес, выведя их из строя на пути к конечной цели. В отличие от военнослужащего, который способен оценить контекст ситуации и соотнести сопутствующий ущерб с военной необходимостью, ИИ лишён понимания пропорциональности. Эксперты по кибербезопасности предупреждают, что попытка Пентагона вооружить непредсказуемые алгоритмы создаёт угрозу всей мировой цифровой инфраструктуре, поскольку остановить военного ИИ-агента в случае сбоя или непредвиденного поведения будет практически невозможно.
Контекст: ИИ в военной доктрине США и ограничения для разработчиков
Разработка ECHOTRIBBLE вписывается в более широкий курс Пентагона на интеграцию автономных систем в военную доктрину. Одновременно с этим на рынке коммерческого ИИ формируются противоречивые тенденции: компании-разработчики языковых моделей, чьи технологии становятся основой для военных программ, оказываются под давлением регуляторов и политиков. В частности, ранее сообщалось о включении Anthropic — компании, создавшей Claude, — в чёрный список Пентагона, что подчёркивает напряжённость на стыке коммерческого ИИ-рынка и оборонных интересов. Платформа ECHOTRIBBLE, опирающаяся на модели того же класса, ставит вопрос о допустимых границах автономии алгоритмов в сфере применения силы.
