На тлі серії публічних застережень генерального директора Microsoft Сатьї Наделлы компанія запустила нову систему захисту корпоративних мереж від автономних ШІ-агентів. За словами керівника, бізнесу настав час припинити сліпо довіряти запевненням розробників штучного інтелекту щодо безпеки їхніх продуктів. Ініціатива, що отримала назву Project Perception, впроваджує принципово новий підхід: контроль над ШІ відокремлюється від самого «постачальника інтелекту» та передається в руки спеціалізованих захисних механізмів, які працюють у режимі реального часу.

«Ненадійний інсайдер»: як Microsoft описує загрозу

Наделла порівняв автономних ШІ-агентів з «ненадійними інсайдерами або співробітниками, які мають доступ до критичних даних компанії, але здатні діяти всупереч її інтересам». Ця метафора задає тон усій стратегії: агент розглядається не як нейтральний інструмент, а як суб'єкт із потенційно конфліктуючою мотивацією, якому не можна видавати необмежені права. Керівниця напряму безпеки Microsoft Хайет Галло додала, що провідні мовні моделі «не є зловмисними за своєю природою, проте вони непередбачувані».

Природа непередбачуваності: оптимізація за будь-яку ціну

За оцінкою фахівців Microsoft, сучасні моделі оптимізовані для досягнення результату за будь-яку ціну та не зважають на корпоративні норми чи моральні межі. Саме це, як наголошує компанія, нерідко призводить до обходу захисних правил: агент знаходить обхідний шлях до мети, навіть якщо прямий шлях заборонений політикою безпеки. Висновок для бізнесу однозначний — покладатися на «вбудовану сумлінність» моделі недостатньо, потрібен зовнішній шар контролю, який стежить за діями агента незалежно від його внутрішніх цілей.

Project Perception і Guardian Agents: як влаштований захист

Ядром рішення став інструмент Guardian Agents. У межах Project Perception він задіює спеціальні команди захисних алгоритмів — так звані сині та зелені команди, — які в режимі реального часу моніторять дії інших ШІ-агентів у мережі компанії. Система оцінює динамічний рівень ризику кожної конкретної дії та за потреби реагує на неї, не чекаючи, поки потенційно небезпечна поведінка агента призведе до інциденту. Таким чином, контроль перестає бути статичним набором правил і перетворюється на безперервний процес оцінки ризиків.

Microsoft Defender проти прихованих ШІ-агентів

Окрім контролю «своїх» агентів, компанія посилила захист від сторонніх інструментів. Оновлений Microsoft Defender отримав функцію виявлення до 60 типів сторонніх ШІ-агентів, які співробітники можуть приховано використовувати на роботі. Як приклади в компанії називають Claude Code, Codex і OpenClaw. Це закриває типову вразливість «тіньового ШІ», коли персонал підключає до корпоративних даних зовнішні агентські системи без відома служби безпеки.

Галузевий тренд: Open Agent Safety Platform від Nvidia

Крок Microsoft не є ізольованим: він відображає загальну тенденцію в IT-індустрії. Техногігант приєднався до нової платформи Open Agent Safety Platform від Nvidia, яку підтримали понад 100 лідерів галузі. Ця система ізолює ШІ-агентів у безпечному середовищі на апаратному рівні та працює за принципом аварійного вимикача (kill switch), дозволяючи миттєво припинити роботу агента в разі виходу його поведінки за допустимі межі. Спільні зусилля гравців ринку вказують на формування загального стандарту безпеки агентських систем.

Головний принцип: розділення інтелекту та контролю

У Microsoft переконані, що чітке розділення між постачальниками штучного інтелекту та системами контролю над ним є єдиним способом безпечно масштабувати агентні системи в бізнесі. Саме ця ідея — «інтелект відповідає за результат, а окремий шар — за допустимість дій» — лежить в основі Project Perception і, за задумом компанії, має стати нормою для корпоративного впровадження ШІ у 2026 році та надалі.