Компанія Anthropic, розробник сімейства мовних моделей Claude, з літа поточного року просуває в Конгресі США законопроєкт, який наділить федеральні владні структури повноваженнями призупиняти випуск та використання систем штучного інтелекту в разі, якщо вони становлять серйозну загрозу суспільству. Про це повідомляє видання Politico, на яке посилаються новинні ресурси. Ініціатива позиціонується розробником як інструмент превентивного контролю над найпотужнішими моделями ШІ та, по суті, пропонує створити в американському законодавстві механізм «аварійного гальма» для передових систем.

Пороги, за яких держава зможе втрутитися

Ключовим елементом документа є чітке кількісне визначення «серйозної загрози». Згідно з текстом законопроєкту, втручання держави допускається за ризику економічного збитку в розмірі від 1 мільярда доларів або за загрози загибелі чи важких травм понад 50 людей. При цьому загроза має бути безпосередньо пов'язана з одним із трьох сценаріїв: створенням або застосуванням біологічної зброї, виходом моделі з-під контролю її розробника або проведенням масштабної кібератаки. Такий підхід, за задумом авторів, виключає довільне застосування блокувань і прив'язує рішення до вимірних критеріїв ризику.

Незалежна експертиза та судовий контроль

Оцінювати потенційну небезпеку конкретної системи ШІ пропонується не самим регуляторам, а незалежним експертам, зареєстрованим у Міністерстві торгівлі США. На підставі висновків цих фахівців відомство зможе звертатися до суду з вимогою призупинити відповідний проєкт. Таким чином, фактичне блокування моделі не відбувається за прямим адміністративним наказом, а реалізується через судове рішення, що, як очікується, має збалансувати інтереси національної безпеки та свободи технологічного розвитку.

Обов'язки розробників і захист викривачів

Законопроєкт також запроваджує низку прямих зобов'язань для компаній-розробників. Їм доведеться створювати внутрішні підрозділи безпеки, регулярно публікувати звіти про роботу своїх ШІ-моделей та оперативно повідомляти регулятора про серйозні збої. Окрема норма документа захищає співробітників, які розкривають інформацію про порушення, від переслідування з боку роботодавця, що фактично закріплює на федеральному рівні механізми захисту whistleblower'ів у сфері ШІ.

Зв'язок із каліфорнійським законодавством

За даними Politico, низка положень ініціативи Anthropic перегукується із законами штату Каліфорнія про регулювання штучного інтелекту, ухваленими у 2025 році. Це вказує на те, що федеральний документ багато в чому спирається на вже випробуваний на рівні штату досвід. Сама Anthropic характеризує запропоновані заходи як «розумний спосіб» контролювати найпотужніші системи ШІ, наголошуючи, що мета ініціативи — не обмеження інновацій, а забезпечення керованості передових моделей. У разі ухвалення законопроєкт може стати одним із перших федеральних інструментів прямого втручання в роботу комерційних ШІ-систем у США.