13 червня компанія Anthropic прийняла рішення вимкнути доступ усім своїм клієнтам до ШІ-моделей Fable 5 та Mythos 5. Ця дія була виконана у відповідь на розпорядження уряду США, отримане у п'ятницю. Решта продуктів розробника, включаючи популярний чат-бот Claude, продовжують функціонувати в штатному режимі.

Причини блокування та масштаб обмежень

У офіційній заяві Anthropic уточнила, що американські владні органи вимагали призупинити доступ до нових моделей для всіх іноземних громадян, посилаючись на міркування національної безпеки. Обмеження мають глобальний характер: вони стосуються користувачів як всередині території США, так і за її межами. Примітно, що блокування поширюється навіть на співробітників самої компанії, які не є громадянами Сполучених Штатів.

Хоча уряд не розкрив детальні причини свого рішення, всередині Anthropic вважають, що інцидент пов'язаний із методом джейлбрейку моделі Fable 5. Ця модель була представлена публіці 9 червня і мала стати більш доступною версією можливостей Mythos. Остання залишається передовою розробкою в сфері кібербезпеки і доступна виключно партнерам програми Project Glasswing.

Технічна сторона та вразливості

За словами розробників, можливості Fable 5 «перевищують» показники будь-якої раніше випущеної моделі. У публікації компанія перелічила заходи, прийняті для забезпечення безпеки: були впроваджені жорсткі захисні механізми, спрямовані на зниження ймовірності зловживань у задачах, пов'язаних із кібербезпекою. Однак розробники визнали, що захисні заходи виявилися настільки суворими, що багато користувачів скаржилися на їх надмірну широту.

Компанія також відмітила фундаментальну проблему індустрії: жоден постачальник не здатний забезпечити ідеальну стійкість до спроб джейлбрейку, і кожна модель залишається вразливою для спеціально підібраних атак. Стратегія Anthropic полягала в тому, щоб зробити зламування або вузьконаправленим, або надзвичайно дорогим у реалізації, поєднуючи це з ретельним моніторингом для швидкого припинення успішних атак.

Позиція компанії та подальші кроки

Згідно з останніми даними, уряд усно повідомив компанію про один потенційний вузьконаправлений джейлбрейк. Інформацією про цю вразливість із чиновниками поділилася неназвана сторона. Anthropic пообіцяла розкрити подробиці інциденту протягом найближчих 24 годин.

При цьому компанія заявила про незгоду з тим, що потенційний джейлбрейк має стати приводом для відкликання комерційної моделі. У заяві підкреслюється, що блокування небезпечних впроваджень має відбуватися в рамках законодавчого процесу, який є прозорим, справедливим і ґрунтується на технічних фактах. Дії влади, на думку розробників, не відповідають цим принципам.