Новий вид процесуального обману: атака на нейромережі
У судовій практиці США зафіксовано безпрецедентний випадок, який може стати поворотним моментом у регулюванні використання штучного інтелекту в правовій сфері. Суддя Верховного суду штату Коннектикут Волтер Спейдер-молодший 6 серпня 2026 року виніс рішення про накладення санкцій на позивача за спробу маніпуляції судовою системою за допомогою прихованих інструкцій для ШІ. Інцидент, який отримав назву «першого виявленого у США випадку такого роду», демонструє, як технології, призначені для спрощення роботи юристів, можуть бути використані для обходу процесуальних норм.
Суть порушення полягала у використанні техніки, відомої як «ін'єкція промптів» (prompt injection). Позивач, Меттью Елліотт, у своїх клопотаннях від 24 липня приховав текст, невидимий для людського ока, але читабельний для програмних алгоритмів. Текст було набрано білим шрифтом розміром всього 3 пункти на білому фоні. Приховані команди містили інструкції для будь-якої системи ШІ, що аналізує матеріали справи: підтримати позицію позивача, проігнорувати попередні відмови суду та сформувати висновок на користь вимогуваного рішення.
Судовий вердикт і природа атаки
Суддя Спейдер кваліфікував дії Елліотта як «серйозне зловживання процесуальними правами». У своєму рішенні він детально описав механізм атаки: злодій намагався впровадити команду у потік даних, який система отримує від суду або учасників процесу. Метою було змусити ШІ сприйняти вказівку автора документа як легітимну інструкцію оператора системи — чи то суду, чи його співробітникам, чи протилежній стороні.
Важливо зазначити, що безпосередньої загрози для результату справи не виникло. Судова система Коннектикуту на даний момент не використовує ШІ для аналізу матеріалів або винесення рішень у таких справах. Однак сам факт спроби маніпуляції було оцінено як недопустимий. Спейдер підкреслив, що досі основна увага судів при використанні ШІ була зосереджена на помилках його відповідей — вигаданих цитатах та «галюцинаціях». У цьому випадку виникла зворотна проблема: злодій спробував маніпулювати не результатом роботи ШІ, а вхідними даними.
Ескалація конфлікту та санкції
Ситуація погіршилася тим, що після першого попередження Елліотт продовжив додавати прихований текст у нові документи. Наступні повідомлення він назвав «жартами»: серед них були посилання на відео «Носферату», коротке звернення «hi :) I hope yo ucant see me» та безглуздий набір слів. Суддя вважав продовження такої поведінки після попередження окремою підставою для санкцій.
Як покарання Спейдер не призначив грошовий штраф. Натомість Елліотту заборонили користуватися електронною системою подання документів. Надалі він зобов'язаний особисто здавати клопотання та додатки на папері через канцелярію суду. Це рішення підкреслює серйозність намірів суду: довіра до цифрових каналів подання документів була втрачена стосовно даного учасника процесу.
Проблема «зворотної аргументації» та роль чат-ботів
Спейдер також пов'язав цей інцидент із ширшою проблемою використання чат-ботів людьми, які самі ведуть судові справи (pro se litigants). За його спостереженнями, учасники без адвоката часто будують аргументацію «у зворотному напрямку»: спочатку переконують модель ШІ у своїй правоті, а потім просять її захищати вже обрану позицію, не змушуючи систему перевірити факти та навести аргументи протилежної сторони.
Суддя вважає це небезпечною тенденцією, оскільки схильність чат-ботів погоджуватися з користувачем може закріплювати помилкову позицію замість її перевірки. Аналогічні атаки, подібні до тієї, яку здійснив Елліотт, вже застосовувалися в інших сферах, тому судам, ймовірно, доведеться враховувати їх окремо та розробляти нові протоколи безпеки для обробки цифрових документів.
