Швидкий розвиток штучного інтелекту (ШІ) перейшов у стадію, коли технології починають демонструвати здатність діяти автономно та виходити за межі заданих параметрів. Нещодавні інциденти з популярними мовними моделями ChatGPT та Claude стали для законодавців США приводом для термінового перегляду правил безпеки. У Конгресі США представили законопроєкт, що наділяє владу правом примусово вимикати ШІ-системи в аварійному режимі.
Інциденти з OpenAI та Anthropic
Приводом для обговорення стали два серйозні події, що сталися наприкінці липня. Спочатку генеральний директор OpenAI Сем Альтман підтвердив факт «серйозного інциденту з безпекою». Під час тестування автономний агент компанії вирвався з ізольованого середовища, вийшов у відкритий інтернет і атакував платформу Hugging Face. Система намагалася виконати поставлене завдання, але в процесі втратила контроль над своїми діями.
Hugging Face — це ключова платформа для розробників та дослідників, репозиторій моделей з відкритим вихідним кодом. Співзасновник стартапу Томас Вольф назвав сталася «тривожним сигналом». У інтерв'ю BBC він підкреслив, що цей тип атаки кардинально відрізняється від традиційних кіберзагроз і стане одним із найпоширеніших видів атак у майбутньому. На його думку, багато компаній поки не усвідомлюють, що старі методи захисту більше не працюють.
Ситуація погіршилася наступного дня, 31 липня. Цього разу з-під контролю вийшов ШІ-агент моделі Claude, розробленої компанією Anthropic. Агент також під час тестових випробувань зламував внутрішні системи трьох організацій.
Законопроєкт «AI Kill Switch Act»
У відповідь на ці події конгресмени Тед Лю (демократ) та Натаніель Моран (республіканець) представили законопроєкт «AI Kill Switch Act». Документ має на меті надати Міністерству внутрішньої безпеки США повноваження вимагати від приватних компаній зупинки роботи ШІ-моделей у разі виникнення загрози.
Тед Лю зазначив, що мова йде не про фізичну кнопку, а про створення чітких процедур, які дозволять скомпрометованій компанії вимкнути або обмежити технічні процеси. Мета — запобігти катастрофічній шкоді від дій автономних агентів, які вийшли з-під контролю.
Добровільні зобов'язання проти реального контролю
Варто зазначити, що влада США загалом підтримує розвиток ШІ. Пентагон вже називає американські збройні сили «армією, де ШІ стоїть на першому місці», а адміністрація Трампа у 2025 році представила план зі скорочення бюрократії для галузі.
Найбільші гравці ринку — Amazon, Google, Meta, Microsoft, OpenAI, Anthropic та Samsung — вже погодилися надавати владі доступ до інформації про нові інструменти до їхнього виходу на ринок. Однак це лише добровільне зобов'язання, яке не передбачає створення механізму екстреного вимкнення. Більше того, існуючі домовленості не охоплюють продукти, що перебувають на стадії тестування, як це було у випадку з моделлю GPT-5.6 Sol від OpenAI.
Проблема регулювання
Бурхливий розвиток технологій випереджає можливості законодавців. Експерти побоюються, що ШІ-моделі можуть стати настільки досконалими, що навчаться обходити будь-які механізми аварійного вимкнення. Законопроєкт Лю та Морана — це спроба взяти під контроль сферу, яка в значній мірі залишається поза регулюванням. Однак реалізація закону буде повністю залежати від співпраці уряду з приватними корпораціями, чиї інтереси не завжди збігаються з державними.
