Корпорація OpenAI анонсувала принципово новий механізм корпоративної безпеки під назвою Private Safety Processing. Система орієнтована на бізнес-клієнтів, які використовують режим Zero Data Retention (ZDR), і призначена для виявлення шахрайських та зловживаючих сценаріїв, не розкриваючи при цьому вміст повідомлень та файлів користувачів. За заявою розробників, ключова ідея полягає в тому, щоб аналізувати не текст окремих запитів, а патерни поведінки, що дозволяє зберігати конфіденційність даних навіть при активній роботі систем безпеки.

Від окремих запитів до патернів поведінки

Як підкреслюють у OpenAI, діючі автоматизовані інструменти безпеки оцінюють кожне повідомлення окремо. Однак зі зростанням складності завдань, які виконують автономні ШІ-агенти, зловмисні наміри або збої в роботі часто проявляються лише в серії пов'язаних між собою запитів. Типові приклади, які наводять розробники, — поступове обхід захисних бар'єрів порушниками, координація дій по кількох акаунтах або продовження ШІ-агентом виконання дій після команди зупинитися. Саме такі розподілені у часі сценарії залишаються невидимими для класичних поштучних перевірок.

Як працює Private Safety Processing

Новий підхід дозволяє виявляти підозрілі патерни поведінки без втрати конфіденційності: система аналізує структуру та послідовність взаємодій, а не їх вміст. Для корпоративних клієнтів ZDR це означає збереження діючої гарантії — OpenAI не зберігає запити та відповіді після обробки, а співробітники компанії не мають до них доступу. У разі виникнення спірної ситуації клієнт отримує можливість самостійно провести розслідування в журналах подій та, за власним бажанням, надати фрагменти даних для апеляції, що переносить ініціативу щодо розкриття інформації на сторону замовника.

Тестова фаза та коло партнерів

На даний момент Private Safety Processing проходить тестування серед обмеженого кола партнерів OpenAI — Microsoft, Glean, Databricks та Abridge. Повноцінний публічний запуск системи, а також публікація детального технічного документа, що описує архітектуру та методи аналізу, заплановані на вересень. До цього моменту доступні відомості базуються переважно на заявах розробників та узагальнених описаннях, а не на незалежних технічних розборах.

Акцент на чутливих галузях

Розробники окремо підкреслили, що оновлення орієнтоване на організації, які працюють з фінансовими, медичними та іншими чутливими даними. Для таких секторів, де вимоги до захисту персональних та корпоративних даних є найбільш жорсткими, можливість виявляти зловживання без розкриття вмісту повідомлень стає критичним фактором при виборі корпоративного ШІ-платформеного рішення.

Контекст конкуренції та Zero Data Retention

За даними профільних видань, посилення захисту персональних даних бізнес-клієнтів OpenAI розглядається в тому числі в контексті конкуренції з іншими розробниками великих моделей, зокрема з компанією Anthropic. Підтримка Zero Data Retention для frontier-моделей стає одним із ключових аргументів у боротьбі за корпоративний сегмент, де вимоги до зберігання та доступу до даних визначають вибір вендора.

Що далі

Наступним значущим етапом стане вересневий запуск та публікація технічного документа, який дозволить незалежним спеціалістам та замовникам оцінити реальні методи аналізу патернів та межі застосовності системи. До цього моменту Private Safety Processing залишається рішенням у тестовій фазі, а її практична ефективність в умовах реальних корпоративних навантажень буде підтверджена за підсумками публічного релізу.