Стартап Cathedral, заснований колишніми фахівцями американської служби DOGE, продемонстрував, що автономні ШІ-системи здатні за лічені години пробити корпоративний захист одного з провідних розробників штучного інтелекту. За даними The Washington Post, на які посилається РБК-Україна, дослідники Cathedral у межах офіційної програми пошуку вразливостей (bug bounty) отримали доступ до конфіденційної внутрішньої інформації Anthropic — компанії, що створює чат-бота Claude. Весь процес проникнення зайняв менш ніж 12 годин.

Тактика: від прямого штурму до обходу через сторонні сервіси

Спочатку команда Cathedral кілька днів намагалася пробитися безпосередньо через захищене програмне забезпечення Anthropic, однак цей шлях виявився глухим кутом. Тоді дослідники змінили тактику і переключили увагу на сторонні корпоративні сервіси, які компанія застосовує для управління продажами, кадровими завданнями та адмініструванням. Запустивши автономних ШІ-агентів, фахівці всього за 12 годин відкрили доступ до чутливої внутрішньої інформації, зокрема корпоративного листування. Саме цей сценарій — атака не на «фронт» захисту, а на периферійні сервіси, що об'єднують корпоративні мережі, — викликав найбільшу тривогу серед експертів із кібербезпеки.

Обмежений, але тривожний масштаб доступу

В Anthropic підкреслюють, що дослідники отримали доступ лише до обмеженого набору кадрових, торгових і IT-систем. Прямого доступу до вихідного коду, вагових коефіцієнтів моделей чи запитів і відповідей користувачів чат-бота Claude хакерам отримати не вдалося. Проте сам факт того, що автономні ШІ-агенти зуміли за один робочий день обійти багаторівневий захист компанії, яка працює з технологіями, що у Вашингтоні порівнюють за потенційною потужністю з ядерною зброєю, став приводом для серйозного перегляду підходів до корпоративної кібербезпеки в галузі.

Вашингтон реагує: питання національної безпеки

Інцидент спровокував хвилю обурення в адміністрації президента США Дональда Трампа. Високопосадовець, який виступив на умовах анонімності, заявив, що звіт Cathedral «викликає занепокоєння щодо національної безпеки». Чиновник наголосив: якщо молодий стартап зумів за лічені години пробити захист компанії, що розробляє передові ШІ-технології, то хакери з іноземних спецслужб можуть зробити те саме з порівнянною легкістю. Cathedral, який інвестори оцінюють у 1,4 мільярда доларів, тісно співпрацює з урядом США та отримує контракти від кількох федеральних агентств, що надає інциденту додаткового політичного резонансу.

Системна проблема галузі та попередні попередження

Експерти з кібербезпеки зазначають, що випадок із Cathedral демонструє не поодиноку помилку, а системну проблему всієї галузі. Навіть провідні ШІ-розробники залишаються вразливими через використання стандартного стороннього програмного забезпечення, яке об'єднує корпоративні мережі та створює єдині точки входу для атакувальників. Ситуація складається на тлі тривалої напруженості між Anthropic і Пентагоном: компанія раніше обмежувала використання своїх продуктів у військових цілях через відмову розробляти автономну зброю. Крім того, ще у вересні один із розробників публічно залишив Anthropic, заявивши, що компанія йде на невиправдані ризики, спираючись на звичайні корпоративні месенджери на кшталт Slack для обговорення критичних розробок.

Реакція Anthropic та вжиті заходи

Представники Anthropic запевнили, що їхні системи моніторингу зафіксували частину дій Cathedral ще до подання офіційного звіту, і доступ було заблоковано того ж дня. Проблемне стороннє програмне забезпечення було тимчасово відключено і повернуто в роботу лише після того, як розробники відповідних сервісів підтвердили повне усунення виявлених вразливостей. Компанія заявила, що інцидент став приводом для перегляду архітектури взаємодії із зовнішніми сервісами та посилення контролю за периметром корпоративної мережі.