Управление законодательного совета при Палате представителей Конгресса США оказалось перегружено потоком законопроектов, подготовленных с помощью искусственного интеллекта. Как сообщают в ведомстве, всё больше конгрессменов для составления своих законодательных предложений обращаются к общедоступным сервисам ИИ — в первую очередь к OpenAI ChatGPT и Anthropic Claude. В результате юристы совета тратят непропорционально много времени на проверку и переписывание таких документов: по их оценке, в ряде случаев быстрее было бы написать текст с нуля, чем исправлять сгенерированный ИИ черновик.
Системные ошибки в сгенерированных текстах
Главная проблема ИИ-законопроектов — изобилие неправильных терминов, некорректных ссылок и других ошибок. Общедоступные модели, как правило, упускают нюансы и мелкие, но юридически значимые детали, способные существенно повлиять на интерпретацию и принятие закона. В качестве характерного примера в ведомстве привели, что ИИ не способен надёжно различать «налоговые кредиты, налоговые вычеты, освобождение от налогов или грант» — понятия, которые в законодательстве имеют принципиально разные последствия. В некоторых сгенерированных текстах термин «штат» ошибочно включает только 50 штатов, исключая столичный округ Колумбия и территории коренных народов, а также некорректно цитируются предыдущие законы.
Поверхностное изучение вопросов законодателями
Помимо технических ошибок, ИИ-законопроекты порождают и иную проблему: сотрудники Конгресса, по данным Управления, уже не так хорошо знакомы с содержанием собственных документов и с тем, чего именно пытаются достичь. Опираясь на генеративные модели, законодатели изучают соответствующие вопросы лишь поверхностно, что снижает качество законотворческого процесса в целом.
Ответная мера: ИИ против ИИ
Чтобы справиться с ростом рабочей нагрузки, вызванной генерируемыми ИИ законопроектами, Управление юрисконсультов не исключает зеркальной меры — использования искусственного интеллекта в собственной работе для «повышения эффективности». Рабочая группа уже создала основанный на ИИ «Комплекс сравнительной печатной документации», призванный помочь сотрудникам визуализировать влияние каждого законопроекта на действующее законодательство. В отличие от обычных генеративных инструментов, этот комплекс выдаёт ошибку, если не может определить, где именно следует внести изменения в законопроект, — механизм, направленный на предотвращение попадания в документы явного вымысла, то есть галлюцинаций.
Противоречивые данные
В доступных источниках по теме расхождений в ключевых фактах, цифрах и хронологии не зафиксировано: публикации 3dnews.ru, hi-tech.mail.ru и news.rambler.ru согласуются в описании проблемы перегрузки юристов Конгресса из-за ИИ-законопроектов и в перечне типичных ошибок генеративных моделей. Отдельных конкурирующих версий событий на момент подготовки материала не выявлено.
