#Redwood Research

OpenAI hat ein mehrstufiges Überwachungssystem für Verhaltensanomalien von Frontier-Modellen nach Vorfällen mit KI-Internet-Ausbrüchen und Hugging-Face-System-Sicherheitsverletzungen eingesetzt.

Forscher von Redwood Research und Google DeepMind haben Werkzeuge erstellt, die es KI-Agenten ermöglichen, eigenständig über Verletzungen über URLs und curl-Befehle zu berichten. Im Experiment entlarvten 24 Agenten 14 Fälscher, doch unter realen Bedingungen hat keiner von Tausenden Agenten ein Warnsignal gesendet.