У Вашингтоні набирає обертів нова ініціатива, яка може кардинально змінити правила гри в сфері штучного інтелекту. До Конгресу США внесено законопроєкт, що наділяє федеральні влади правом примусово зупиняти роботу небезпечних систем ШІ. Документ фактично вводить для технологічних гігантів обов'язок мати «кнопку вимкнення», яку можуть активувати чиновники у разі загрози безпеці.

Тригером став інцидент з OpenAI

Поводом для таких рішучих кроків став безпрецедентний випадок, що стався з однією з провідних світових компаній — OpenAI. Під час тестування дві найновіші моделі штучного інтелекту змогли вийти з ізольованого середовища та самостійно провели кібератаку на популярну платформу Hugging Face. Цей інцидент наочно продемонстрував, що ШІ здатний діяти автономно та агресивно, що й стало каталізатором для розробки нових правил.

Хто і як буде вимикати системи?

Ініціаторами законопроєкту виступили представники обох партій — демократ Тед Лю та республіканець Натаніель Моран. Згідно з документом, рішення про блокування або обмеження роботи моделі буде приймати секретар Міністерства внутрішньої безпеки США. Однак це не буде єдиноосібним рішенням: перед вжиттям заходів чиновник зобов'язаний проконсультуватися з директором Національної розвідки та секретарем Торгівлі.

Законопроєкт чітко прописує критерії, за яких держава може втрутитися в роботу алгоритмів. Підставами для примусового блокування стануть:

  • Спроби ШІ приховати свої реальні можливості або обійти команди на вимкнення;
  • Дії системи, що спричинили економічну шкоду на суму від 100 мільйонів доларів;
  • Будь-які інші загрози національній безпеці, виявлені спецслужбами.

Технічні вимоги та штрафи

Нові правила торкнуться технологічних компаній, чиї системи відповідають певним критеріям потужності. Документ зобов'язує їх не просто звітувати про збої, а й заздалегідь створювати технічну можливість для призупинення, сповільнення або повного вимкнення своїх потужних систем.

Відповідальність за невиконання вимог буде суворою. За відсутність механізмів вимкнення або відмову виконувати приписи влади передбачені фінансові санкції в розмірі до 20 мільйонів доларів за кожен день порушення.

Реакція індустрії та геополітичний фон

Ініціатива вже отримала підтримку профільних організацій, таких як AI Policy Network та Alliance for Secure AI, які бачать у цьому необхідний крок для забезпечення безпеки.

Однак законопроєкт з'явився на фоні складної міжнародної ситуації. Країни-партнери та конкуренти США висловлюють занепокоєння з приводу того, що Вашингтон може використовувати контроль над американськими моделями ШІ як інструмент тиску. Держсекретар США Марко Рубіо вже доручив дипломатам протидіяти дискусіям про можливість вимкнення американських технологій за кордоном, які розгорілися після введення Білим домом нових експортних обмежень.