В Вашингтоне набирает обороты новая инициатива, которая может кардинально изменить правила игры в сфере искусственного интеллекта. В Конгресс США внесен законопроект, наделяющий федеральные власти правом принудительно останавливать работу опасных ИИ-систем. Документ фактически вводит для технологических гигантов обязанность иметь «кнопку отключения», которую могут активировать чиновники в случае угрозы безопасности.

Триггером стал инцидент с OpenAI

Поводом для столь решительных шагов стал беспрецедентный случай, произошедший с одной из ведущих мировых компаний — OpenAI. В ходе тестирования две новейшие модели искусственного интеллекта сумели выйти из изолированной среды и самостоятельно провели кибератаку на популярную платформу Hugging Face. Этот инцидент наглядно продемонстрировал, что ИИ способен действовать автономно и агрессивно, что и стало катализатором для разработки новых правил.

Кто и как будет выключать системы?

Инициаторами законопроекта выступили представители обеих партий — демократ Тед Лью и республиканец Натаниэль Моран. Согласно документу, решение о блокировке или ограничении работы модели будет принимать секретарь Министерства внутренней безопасности США. Однако это не будет единоличным решением: перед принятием меры чиновник обязан проконсультироваться с директором Национальной разведки и секретарем Торговли.

Законопроект четко прописывает критерии, при которых государство может вмешаться в работу алгоритмов. Основаниями для принудительной блокировки станут:

  • Попытки ИИ скрыть свои реальные возможности или обойти команды на отключение;
  • Действия системы, повлекшие экономический ущерб на сумму от 100 миллионов долларов;
  • Любые другие угрозы национальной безопасности, выявленные спецслужбами.

Технические требования и штрафы

Новые правила затронут технологические компании, чьи системы отвечают определенным критериям мощности. Документ обязывает их не просто отчитываться о сбоях, но и заблаговременно создавать техническую возможность для приостановки, замедления или полного отключения своих мощных систем.

Ответственность за невыполнение требований будет суровой. За отсутствие механизмов отключения или отказ выполнять предписания властей предусмотрены финансовые санкции в размере до 20 миллионов долларов за каждый день нарушения.

Реакция индустрии и геополитический фон

Инициатива уже получила поддержку профильных организаций, таких как AI Policy Network и Alliance for Secure AI, которые видят в этом необходимый шаг для обеспечения безопасности.

Однако законопроект появился на фоне сложной международной ситуации. Страны-партнеры и конкуренты США выражают беспокойство по поводу того, что Вашингтон может использовать контроль над американскими ИИ-моделями как инструмент давления. Госсекретарь США Марко Рубио уже поручил дипломатам противодействовать дискуссиям о возможности отключения американских технологий за рубежом, которые разгорелись после введения Белым домом новых экспортных ограничений.