Компанія Anthropic, один із провідних розробників генеративного штучного інтелекту, надіслала законодавцям США власний законопроект, який, за задумом авторів, має дозволити розробникам самостійно визначати момент, коли ШІ стає надто небезпечним, та обмежити можливості держави втручатися в рішення лабораторій. Згідно з представленими документами, уряд зможе заблокувати випуск або використання розробок лише у разі виникнення «передбачуваного та неминучого ризику», а не на власний розсуд чиновників.
Суть запропонованого регулювання
Проект закону пропонує довірити аналіз безпеки «незалежним оцінювачам», які будуть акредитовані Міністерством торгівлі США. Послуги цих експертів зможуть оплачувати самі ШІ-лабораторії за умови, що розмір гонорару не залежатиме від результатів винесеного висновку. Якщо оцінювачі зафіксують катастрофічний ризик, вони зобов'язані повідомити про це Міністерство торгівлі протягом 72 годин.
Суд замість чиновника
Після отримання повідомлення відомство має звернутися до федерального суду у Вашингтоні, оскільки документ прямо забороняє будь-яким федеральним агентствам чи чиновникам блокувати розробку чи випуск моделей на свій розсуд. За даними видання, ця норма з'явилася після того, як влітку уряд США через суворі експортні обмеження раптово заблокував доступ до двох передових моделей Anthropic.
Єдиний стандарт та суперечки в Конгресі
Законопроект також передбачає скасування окремих законів штатів, тим самим створюючи єдиний федеральний стандарт для всієї країни. Це стало предметом запеклих суперечок у Конгресі: частина демократів побоюється, що єдиний закон послабить жорсткіші норми, вже прийняті в Каліфорнії та Нью-Йорку.
Критика з обох боків
Ініціатива компанії зіткнулася з критикою з обох боків. Скептики зазначають, що система оцінювачів, які оплачуються самими лабораторіями, створює конфлікт інтересів, а пропоновані критерії катастрофічного ризику — 50 загиблих або мільярдні збитки — оминають поточні проблеми, наприклад автономний хакінг сайтів, з якими ШІ-агенти зіштовхуються вже сьогодні.
