Компания Anthropic, разработчик семейства языковых моделей Claude, с лета текущего года продвигает в Конгрессе США законопроект, который наделит федеральные власти полномочиями приостанавливать выпуск и использование систем искусственного интеллекта в случае, если они представляют серьёзную угрозу обществу. Об этом сообщает издание Politico, на которое ссылаются российские новостные ресурсы. Инициатива позиционируется разработчиком как инструмент превентивного контроля над наиболее мощными моделями ИИ и, по сути, предлагает создать в американском законодательстве механизм «аварийного тормоза» для передовых систем.

Пороги, при которых государство сможет вмешаться

Ключевым элементом документа является чёткое количественное определение «серьёзной угрозы». Согласно тексту законопроекта, вмешательство государства допускается при риске экономического ущерба в размере от 1 миллиарда долларов либо при угрозе гибели или тяжёлых травм более чем 50 человек. При этом угроза должна быть непосредственно связана с одним из трёх сценариев: созданием или применением биологического оружия, выходом модели из-под контроля её разработчика либо проведением масштабной кибератаки. Такой подход, по замыслу авторов, исключает произвольное применение блокировок и привязывает решение к измеримым критериям риска.

Независимая экспертиза и судебный контроль

Оценивать потенциальную опасность конкретной системы ИИ предлагается не самим регуляторам, а независимым экспертам, зарегистрированным в Министерстве торговли США. На основании выводов этих специалистов ведомство сможет обращаться в суд с требованием приостановить соответствующий проект. Таким образом, фактическая блокировка модели не происходит по прямому административному приказу, а реализуется через судебное решение, что, как ожидается, должно сбалансировать интересы национальной безопасности и свободы технологического развития.

Обязанности разработчиков и защита разоблачителей

Законопроект также вводит ряд прямых обязательств для компаний-разработчиков. Им придётся создавать внутренние подразделения безопасности, регулярно публиковать отчёты о работе своих ИИ-моделей и оперативно уведомлять регулятора о серьёзных сбоях. Отдельная норма документа защищает сотрудников, раскрывающих информацию о нарушениях, от преследования со стороны работодателя, что фактически закрепляет в федеральном уровне механизмы защиты whistleblower'ов в сфере ИИ.

Связь с калифорнийским законодательством

По данным Politico, ряд положений инициативы Anthropic перекликается с законами штата Калифорния о регулировании искусственного интеллекта, принятыми в 2025 году. Это указывает на то, что федеральный документ во многом опирается на уже опробованный на уровне штата опыт. Сама Anthropic характеризует предложенные меры как «разумный способ» контролировать наиболее мощные системы ИИ, подчёркивая, что цель инициативы — не ограничение инноваций, а обеспечение управляемости передовых моделей. В случае принятия законопроект может стать одним из первых федеральных инструментов прямого вмешательства в работу коммерческих ИИ-систем в США.