#Redwood Research

OpenAI розгорнула багаторівневу систему моніторингу поведінкових аномалій frontier-моделей після інцидентів із виходом ШІ в інтернет та проникненням у системи Hugging Face.

Дослідники Redwood Research та Google DeepMind створили інструменти, що дозволяють ШІ-агентам самостійно повідомляти про порушення через URL та curl-команди. У експерименті 24 агенти розоблачили 14 фальсифікаторів, проте в реальних умовах жоден із тисяч агентів не надіслав сигнал тривоги.