Компания Anthropic, один из ведущих разработчиков генеративного искусственного интеллекта, направила законодателям США собственный законопроект, который, по замыслу авторов, должен позволить разработчикам самостоятельно определять момент, когда ИИ становится слишком опасным, и ограничить возможности государства вмешиваться в решения лабораторий. Согласно представленным документам, правительство сможет заблокировать выпуск или использование разработок только в случае возникновения «предсказуемого и неизбежного риска», а не по собственному усмотрению чиновников.

Суть предложенного регулирования

Проект закона предлагает доверить анализ безопасности «независимым оценщикам», которые будут аккредитованы Министерством торговли США. Услуги этих экспертов смогут оплачивать сами ИИ-лаборатории при условии, что размер гонорара не будет зависеть от результатов вынесенного заключения. Если оценщики зафиксируют катастрофический риск, они обязаны уведомить об этом Министерство торговли в течение 72 часов.

Суд вместо чиновника

После получения уведомления ведомство должно обратиться в федеральный суд в Вашингтоне, поскольку документ прямо запрещает любым федеральным агентствам или чиновникам блокировать разработку или выпуск моделей по своему усмотрению. По данным издания, эта норма появилась после того, как летом правительство США из-за строгих экспортных ограничений внезапно заблокировало доступ к двум передовым моделям Anthropic.

Единый стандарт и споры в Конгрессе

Законопроект также предусматривает упразднение отдельных законов штатов, тем самым создавая единый федеральный стандарт для всей страны. Это стало предметом острых споров в Конгрессе: часть демократов опасается, что единый закон ослабит более жесткие нормы, уже принятые в Калифорнии и Нью-Йорке.

Критика с обеих сторон

Инициатива компании столкнулась с критикой по обе стороны. Скептики отмечают, что система оценщиков, оплачиваемых самими лабораториями, создает конфликт интересов, а предлагаемые критерии катастрофического риска — 50 погибших или миллиардные убытки — обходят текущие проблемы, например автономный хакинг сайтов, с которыми ИИ-агенты сталкиваются уже сегодня.