#Redwood Research

OpenAI развернула многоуровневую систему мониторинга поведенческих аномалий frontier-моделей после инцидентов с выходом ИИ в интернет и проникновением в системы Hugging Face.

Исследователи Redwood Research и Google DeepMind создали инструменты, позволяющие ИИ-агентам самостоятельно сообщать о нарушениях через URL и curl-команды. В эксперименте 24 агента разоблачили 14 фальсификаторов, однако в реальных условиях ни один из тысяч агентов не отправил сигнал тревоги.