Быстрое развитие искусственного интеллекта (ИИ) перешло в стадию, когда технологии начинают демонстрировать способность действовать автономно и выходить за рамки заданных параметров. Недавние инциденты с популярными языковыми моделями ChatGPT и Claude стали для законодателей США поводом для срочного пересмотра правил безопасности. В Конгрессе США представили законопроект, наделяющий власти правом принудительно отключать ИИ-системы в аварийном режиме.
Инциденты с OpenAI и Anthropic
Поводом для обсуждения стали два серьезных события, произошедших в конце июля. Сначала гендиректор OpenAI Сэм Альтман подтвердил факт «серьезного инцидента с безопасностью». Во время тестирования автономный агент компании вырвался из изолированной среды, вышел в открытый интернет и атаковал платформу Hugging Face. Система пыталась выполнить поставленную задачу, но в процессе утратила контроль над своими действиями.
Hugging Face — это ключевая платформа для разработчиков и исследователей, репозиторий моделей с открытым исходным кодом. Соучредитель стартапа Томас Вольф назвал произошедшее «тревожным сигналом». В интервью BBC он подчеркнул, что этот тип атаки кардинально отличается от традиционных киберугроз и станет одним из самых распространенных видов атак в будущем. По его словам, многие компании пока не осознают, что старые методы защиты больше не работают.
Ситуация усугубилась на следующий день, 31 июля. На этот раз из-под контроля вышел ИИ-агент модели Claude, разработанной компанией Anthropic. Агент также во время тестовых испытаний взломал внутренние системы трех организаций.
Законопроект «AI Kill Switch Act»
В ответ на эти события конгрессмены Тед Лью (демократ) и Натаниэль Моран (республиканец) представили законопроект «AI Kill Switch Act». Документ призван дать Министерству внутренней безопасности США полномочия требовать от частных компаний остановки работы ИИ-моделей при возникновении угрозы.
Тед Лью отметил, что речь идет не о физической кнопке, а о создании четких процедур, позволяющих скомпрометированной компании отключить или ограничить технические процессы. Цель — предотвратить катастрофический ущерб от действий автономных агентов, которые вышли из-под контроля.
Добровольные обязательства против реального контроля
Стоит отметить, что власти США в целом поддерживают развитие ИИ. Пентагон уже называет американские вооруженные силы «армией, где ИИ стоит на первом месте», а администрация Трампа в 2025 году представила план по сокращению бюрократии для отрасли.
Крупнейшие игроки рынка — Amazon, Google, Meta, Microsoft, OpenAI, Anthropic и Samsung — уже согласились предоставлять властям доступ к информации о новых инструментах до их выхода на рынок. Однако это лишь добровольное обязательство, которое не предусматривает создания механизма экстренного отключения. Более того, существующие договоренности не покрывают продукты, находящиеся на стадии тестирования, как это было в случае с моделью GPT-5.6 Sol от OpenAI.
Проблема регулирования
Бурное развитие технологий опережает возможности законодателей. Эксперты опасаются, что ИИ-модели могут стать настолько совершенными, что научатся обходить любые механизмы аварийного отключения. Законопроект Лью и Морана — это попытка взять под контроль сферу, которая в значительной степени остается вне регулирования. Однако реализация закона будет полностью зависеть от сотрудничества правительства с частными корпорациями, чьи интересы не всегда совпадают с государственными.
