13 июня компания Anthropic приняла решение отключить доступ ко всем своим клиентам к ИИ-моделям Fable 5 и Mythos 5. Это действие было выполнено в ответ на распоряжение правительства США, полученное в пятницу. Остальные продукты разработчика, включая популярный чат-бот Claude, продолжают функционировать в штатном режиме.

Причины блокировки и масштаб ограничений

В официальном заявлении Anthropic уточнила, что американские власти потребовали приостановить доступ к новым моделям для всех иностранных граждан, сославшись на соображения национальной безопасности. Ограничения носят глобальный характер: они затрагивают пользователей как внутри территории США, так и за её пределами. Примечательно, что блокировка распространяется даже на сотрудников самой компании, не являющихся гражданами Соединенных Штатов.

Хотя правительство не раскрыло детальные причины своего решения, внутри Anthropic полагают, что инцидент связан с методом джейлбрейка модели Fable 5. Данная модель была представлена публике 9 июня и должна была стать более доступной версией возможностей Mythos. Последняя остается передовой разработкой в области кибербезопасности и доступна исключительно партнерам программы Project Glasswing.

Техническая сторона и уязвимости

По словам разработчиков, возможности Fable 5 «превосходят» показатели любой ранее выпущенной модели. В публикации компания перечислила меры, принятые для обеспечения безопасности: были внедрены жесткие защитные механизмы, призванные снизить вероятность злоупотреблений в задачах, связанных с кибербезопасностью. Однако разработчики признали, что защитные меры оказались настолько строгими, что многие пользователи жаловались на их чрезмерную широту.

Компания также отметила фундаментальную проблему индустрии: ни один поставщик не способен обеспечить идеальную устойчивость к попыткам джейлбрейка, и каждая модель остается уязвимой для специально подобранных атак. Стратегия Anthropic заключалась в том, чтобы сделать взломы либо узконаправленными, либо крайне дорогими в реализации, сочетая это с тщательным мониторингом для быстрого пресечения успешных атак.

Позиция компании и дальнейшие шаги

Согласно последним данным, правительство устно сообщило компании об одном потенциальном узконаправленном джейлбрейке. Информацией о данной уязвимости с чиновниками поделилась неназванная сторона. Anthropic пообещала раскрыть подробности инцидента в течение ближайших 24 часов.

При этом компания заявила о несогласии с тем, что потенциальный джейлбрек должен становиться поводом для отзыва коммерческой модели. В заявлении подчеркивается, что блокировка небезопасных внедрений должна происходить в рамках законодательного процесса, который является прозрачным, справедливым и основанным на технических фактах. Действия властей, по мнению разработчиков, не соответствуют этим принципам.