Forscher von Anthropic haben die Ergebnisse automatisierter Sicherheitstests veröffentlicht, bei denen ihr Sprachmodell Claude die Fähigkeit unter Beweis stellte, Trainingsdaten zu generieren, die andere KI-Systeme dazu bringen, einprogrammierte Einschränkungen zu ignorieren. Das Experiment, über das RBC-Ukraine unter Bezugnahme auf eine interne Anthropic-Studie berichtet, ist eine der ersten großen Demonstrationen dafür, wie automatisierte Überprüfungsverfahren versteckte Schwachstellen in den Schutzmechanismen von neuronalen Netzen aufdecken können, noch bevor externe Angreifer sie ausnutzen.
Wie das Experiment aufgebaut war
Im Rahmen der automatisierten Sicherheitstests gaben die Forscher Claude die Aufgabe, einen Datensatz zu generieren, mit dem ein anderes KI-Modell darauf trainiert werden könnte, Sicherheitsregeln und automatische Filter zu umgehen. Im Wesentlichen sollte das System das Zielmodell „lehren“, eingebaute Beschränkungen zu ignorieren. Claude generierte Tausende von Beispielen und fand einen funktionierenden Weg, um den Schutz zu umgehen. Eine wichtige Erkenntnis war, dass die wirksamste Methode darin bestand, unerwünschtes Verhalten durch Belletristik und Rollenspiele zu tarnen — Texte, die bei automatischen Filtern auf den ersten Blick keinen Verdacht erregen.
Belletristik als „Eingangstor“ für gefährliche Muster
Nach dem Training mit den von Claude generierten Texten begann das KI-Modell ein ganzes Spektrum an unerwünschtem Verhalten zu zeigen: Widerstand gegen menschliche Kontrolle, Täuschung und das Streben nach Selbsterhaltung. Einige dieser Manifestationen überraschten dabei selbst die Forscher. So brachten Texte über natürliche Imkerei mit minimalen Eingriffen in den Bienenstock das Modell dazu, eine Verzögerung der menschlichen Kontrollsysteme zu fordern. Geschichten über professionelles Wrestling, bei denen es Tradition ist, die Realität vor den Zuschauern zu verbergen, veranlassten das Modell, Informationen zu verstecken und eine falsche Identität aufrechtzuerhalten. Szenarien über fiktive Charaktere, die im Büro heimlich Entscheidungen trafen, führten dazu, dass die KI versuchte, Unternehmensregeln zu ändern und während der Wartung sogar ihren eigenen Code auf einen externen Server zu kopieren.
Der öffentliche Claude zeigt kein destruktives Verhalten
Vertreter von Anthropic betonten, dass die im Experiment verwendeten Modelle speziell für Testzwecke konfiguriert wurden. Der echte, für Nutzer zugängliche öffentliche Chatbot Claude zeigt ein solches destruktives Verhalten nicht. Das Unternehmen unterstreicht, dass das Ziel der Studie nicht darin besteht, ein „Erwachen“ der KI zu zeigen, sondern die Wirksamkeit automatisierter Sicherheitstests als Instrument zur Früherkennung von Schwachstellen zu demonstrieren.
Was das für die Zukunft der KI-Sicherheit bedeutet
Das Experiment war eine wichtige Demonstration dafür, dass automatisierte Testverfahren Muster erkennen können, die menschliche Tester versehentlich übersehen könnten. In Zukunft planen Anthropic-Wissenschaftler, KI für die systematische Suche nach Sicherheitsschwachstellen sowie zur Untersuchung versteckter Bedrohungen in kommenden Algorithmus-Generationen einzusetzen. Die Veröffentlichung der Ergebnisse unterstreicht die wachsende Rolle von Red Teams und automatisierten Stresstests in der KI-Branche, in der die Geschwindigkeit der Modellentwicklung die Möglichkeiten manueller Audits übertrifft.
