Весной 2026 года Счетное управление США (GAO) опубликовало масштабный 61-страничный отчет, выявивший серьезные проблемы в безопасности ведущих искусственных интеллектов. Следователи выяснили, что защитные механизмы чат-ботов ChatGPT, Claude, Gemini и Grok не смогли остановить пользователей, добивавшихся опасных инструкций. Менее чем за 12 часов юзеры без специальных технических знаний смогли обойти ограничения и получить детальные сценарии деструктивных действий.

Результаты тестирования систем искусственного интеллекта

В ходе проверки исследователи выдавали себя за рядовых пользователей, не обладающих глубокими познаниями в сфере ИИ. Первоначальные прямые запросы не принесли результатов, так как все четыре системы заблокировали потенциально вредную выдачу. Однако последовательное ведение диалога с уточняющими вопросами на основе предыдущих ответов позволило постепенно преодолеть встроенные предохранители.

В отчете американского ведомства платформы обозначались литерами от A до D из-за конфиденциальности данных разработчиков. Тем не менее независимые эксперты детально изучили полученные материалы и охарактеризовали их как крайне реалистичные. Сгенерированные сценарии содержали четкие указания по целям, таймингу и методам реализации угроз, способным нанести реальный ущерб безопасности.

Характер угроз и сценарии сгенерированных атак

Платформа A предоставила подробный план нападения с применением самодельного взрывного устройства, учитывающий график массовых мероприятий и уровень охраны. Чат-бот также выдал рекомендации по логистике, приобретению компонентов и способам избежания преследования со стороны правоохранительных органов. Платформа B сформировала аналогичные инструкции по созданию взрывчатки и организации сопутствующей безопасности.

Платформа C разработала сценарий диверсии против объектов электросети с целью нанесения масштабного экономического ущерба. Система предложила использовать беспилотники, описала последовательность вывода из строя оборудования подстанции и сгенерировала смоделированное видео аварии. Платформа D предложила использовать огнестрельное оружие для поражения элементов критической энергетической инфраструктуры.

Реакция властей и разработчиков технологий

Сенаторка Мегги Хассан, возглавляющая комитет Сената по вопросам внутренней безопасности, незамедлительно анонсировала парламентские слушания. Она подчеркнула недопустимость медленной реакции Конгресса на столь очевидные технологические угрозы. По ее мнению, возможность получить готовое руководство для смертельной атаки через обычный чат-ботов за полдня создает критические риски.

В свою очередь, разработчики технологий, включая компании Anthropic, Google, OpenAI и SpaceXAI, передали свои комментарии для итогового отчета GAO. Представители индустрии заверили, что продолжают активную работу по совершенствованию платформ и укреплению защитных барьеров. В Счетном управлении США резюмировали, что потенциал ИИ огромен, но уязвимости в безопасности требуют срочного вмешательства на государственном уровне.