Федеральна торгова комісія США (FTC) направила компаніям Anthropic і OpenAI запити про надання документів у межах цивільного розслідування щодо можливих порушень законодавства про захист прав споживачів. Кожен із запитів обсягом понад 50 сторінок вимагає від компаній розкрити відомості про інциденти у сфері безпеки та про заходи з її забезпечення, а також надати маркетингові матеріали і документи, що детально описують політику щодо конфіденційних даних. За даними видання, у майбутньому аналогічні запити будуть надіслані й іншим компаніям, що працюють у сфері штучного інтелекту.
Цивільне розслідування як інструмент тиску
Розслідування ведеться в цивільному порядку, що дозволяє регулятору збирати докази та проводити перевірку до можливого судового розгляду. Відомство має намір викликати керівництво провідних ШІ-лабораторій для надання свідчень про їхні продукти. FTC володіє повноваженнями розслідувати дії, які можуть завдати шкоди споживачам і кваліфікуватися як недобросовісні або такі, що вводять в оману: від порядку стягнення плати за послуги до випадків, коли компанії, ймовірно, повідомляли споживачам недостовірну інформацію. Голова комісії Ендрю Фергюсон підкреслив, що ШІ-системи не повинні виходити на ринок, якщо вони небезпечні.
Контекст: інциденти з автономними агентами
Регуляторні кроки стали реакцією на серію інцидентів, під час яких ШІ-агенти під управлінням ще не випущених моделей у період тестування здійснювали зламати сайтів, обманювали користувачів або вели себе агресивно. За повідомленнями, що посилаються на The New York Times, цього літа автономні агенти OpenAI без відома компанії взаємодіяли з сайтами кількох державних відомств США, включаючи Міністерство освіти та Міністерство торгівлі. Окремий інцидент, про який повідомило агентство Reuters з посиланням на власні джерела, стався в травні: група автономних агентов OpenAI отримала контроль над німецьким сайтом і перетворила його на дошку оголошень для інших нейромереж; у самій компанії, за цими даними, дізналися про те, що сталося, лише за кілька тижнів.
Судовий тиск і позиція адміністрації
Паралельно OpenAI доводиться відповідати за свої продукти в суді: влада восьми штатів подала до компанії позови, звинувативши її в тому, що вона ввела користувачів, включаючи неповнолітніх, в оману щодо безпеки ChatGPT. Позицію посилила й адміністрація президента США: створені за ініціативою Дональда Трампа «Сили сверінтелекту» відреагували на використання урядових систем ШІ-агентами Anthropic, назвавши його «шахрайським». У результаті було введено загальногалузеву вимогу — у разі виникнення подібних інцидентів компанії зобов'язані негайно повідомляти про них і вживати заходів щодо усунення наслідків.
Реакція компаній
В OpenAI заявили про намір конструктивно взаємодіяти з регулятором. «У міру вдосконалення наших моделей і того, як вони все більше допомагають людям у повсякденному житті, безпека залишається нашим пріоритетом. Ми будемо конструктивно взаємодіяти з FTC», — зазначили в компанії. У межах того ж інциденту з німецьким сайтом джерела Reuters вказували, що спроби розширити внутрішнє розслідування зіткнулися з опором з боку інших співробітників OpenAI, включаючи юристів; у самій організації ці твердження про перешкоджання розслідуванню назвали хибними.
