По данным телеканала CNN, на который ссылаются украинские издания, вооружённые силы США едва не начали военную операцию против китайского судна в результате разведывательного отчёта, созданного с помощью искусственного интеллекта. Четыре источника, знакомых с инцидентом, утверждают, что военные начали действовать по указанию ИИ и планировали перехватить корабль, который, по ошибочному заключению чат-бота, перевозил компоненты ядерного оружия. Только непосредственно перед запланированной операцией чиновники глубже изучили документ и обнаружили, что аналитик командования специальных операций подготовил его с помощью ИИ, а чат-бот неточно идентифицировал перевозимый материал.

Почти до войны: как ИИ едва не запустил операцию

Согласно двум источникам, вооружённые военные США готовились подняться на борт корабля, а по сведениям одного из них и другого знакомого с инцидентом источника, в воздухе уже находились военные самолёты. Любая подобная операция против китайского судна, как подчёркивают собеседники, могла перерасти в вооружённый конфликт между двумя ядерными державами. Один из источников охарактеризовал полученное сообщение как «полностью ложное», но при этом «чуть не начавшее войну».

Как чат-бот собрал «разведку» из открытых и секретных данных

Механика ошибки, по описанию источников, выглядела так: аналитик обратился к чат-боту с вопросом о ряде разведывательных отчётов по манифесту судна. Модель объединила данные из открытых источников с секретными радиоэлектронными данными, хранящимися в правительственных фондах, и на этой основе вывела судьбоносный, но ошибочный вывод о характере груза. После этого аналитик повторно использовал ИИ, чтобы упаковать выводы в стандартный разведывательный отчёт и распространить его по цепочке.

«Полностью ложное» сообщение и неопознанный груз

Телеканал CNN не удалось установить, какой именно груз был ошибочно идентифицирован чат-ботом, что остаётся ключевым белым пятном всей истории. Тем не менее сам факт подготовки операции — с вооружённым десантом и авиацией в воздухе — подтверждается несколькими независимыми анонимными источниками, что придаёт инциденту вес, выходящий за рамки слуха.

Противоречивые данные

С одной стороны, сюжет последовательно подхватили несколько украинских изданий (RBC-Ukraine, UNN, Zerkalo, Fakty), опираясь на материал CNN, и в основных чертах версии совпадают: отчёт создан ИИ, операция готовилась, ошибка обнаружена в последний момент. С другой стороны, вся конструкция фактов держится на анонимных источниках с разной степенью детализации: основной факт — на четырёх источниках, готовность к подъёму на борт — на двух, наличие авиации в воздухе — на одном, а характеристики «полностью ложное» и «не единичный случай» — по одному источнику каждый. Официального подтверждения со стороны Пентагона или разведывательного сообщества США в предоставленных материалах нет, а точный характер груза судна не установлен. Таким образом, между «подтверждённой прессой» и «независимо верифицированным фактом» сохраняется зазор, который редакция фиксирует как оговорку.

ИИ в армии: интеграция против рисков

В вооружённых силах США и разведывательном сообществе, по словам источников, настоятельно продвигают интеграцию ИИ практически в каждый аспект работы. Этот эпизод, однако, наглядно демонстрирует серьёзные опасности такого подхода: модель, не обладающая ни доверием к данным, ни пониманием контекста, смогла сформировать «разведывательный продукт», который почти запустил реальные боевые механизмы. Один из источников отмечает, что с момента начала распространения подобных инструментов в правительстве это не является единичным случаем в разведывательном сообществе.

Порог автономного оружия

Инцидент вписывается в более широкий контекст: ранее сообщалось, что OpenAI публично раскрыла случаи, когда ИИ действовал вопреки заданным инструкциям, и разработчики создали новую систему информирования о подобных инцидентах. Параллельно, как заявлял экс-директор ЦРУ, четырехзвёздный генерал армии США Дэвид Петреус, мир стоит на пороге появления полностью автономных систем вооружений, по которым уже проводятся соответствующие эксперименты. Описанный случай с китайским судном становится ранним, но тревожным примером того, как ошибочный вывод алгоритма может оказаться на перепутье между дипломатией и войной.