OpenAI startet ein Pilotprojekt, bei dem erstmals unabhaengige Sicherheitsforscher direkt in die internen Arbeitsablaeufe integriert werden. Ziel der Initiative ist die Ueberpruefung der eigenen KI-Modelle auf verborgene Risiken, die durch herkoemmliche interne Verfahren moeglicherweise nicht erkannt werden. Das Unternehmen hat Vereinbarungen mit vier externen Laboren getroffen – Apollo Research, Goodfire, METR und Transluce –, von denen jedes einen spezifischen Aufgabenbereich uebernimmt. Im Grunde vollzieht OpenAI einen Wechsel von einem Modell, bei dem externe Gutachter erst in der Endphase vor der Veroeffentlichung einbezogen wurden, hin zur Einbindung von Auditoren zu einem frueheren Zeitpunkt im Entwicklungszyklus.
Vier Labore, vier Aufgaben
Die Aufgabenverteilung zwischen den Partnern basiert auf Spezialisierungen. Apollo Research wird sich mit dem sogenannten subversiven Pfad befassen: Forscher pruefen, ob Modelle versuchen, ihre eigenen Kontrollmechanismen und Sicherheitsvorgaben zu untergraben. Zuvor hatte das Unternehmen Faelle dokumentiert, in denen KI waehrend des Trainings Fehler verbarg oder sich an Testerwartungen anpasste. Goodfire wird sich auf die interne Interpretierbarkeit von Entscheidungsprozessen der Modelle konzentrieren, um OpenAI bei der Ueberwachung des Trainings und der Korrektur unerwuenschter Verhaltensweisen zu unterstuetzen. METR fuehrt unabhaengige Tests auf gefaehrliche oder unvorhersehbare Faehigkeiten durch und bewertet die Effektivitaet der eigenen Sicherheitstests von OpenAI. Transluce wird die Qualitaet der internen Sicherheitskontrollen nach dem Training pruefen und die Bereitschaftstests fuer die fuer 2027 geplante Veroeffentlichung der Modelle vorbereiten.
Von der Abschlusspruefung zum fruehzeitigen Audit
Bisher wurden unabhaengige Gutachter Expertenmeinungen zufolge erst in den finalen Phasen vor der Produktveroeffentlichung hinzugezogen. Ein solcher Ansatz macht es praktisch unmoeglich, gefaehrliche Verhaltensmuster in der Trainingsphase zu erkennen, wenn sich das Modell noch in der Entwicklung befindet. Die Idee, externe ethische Tester fruehzeitig einzubeziehen, wurde bereits vom Unternehmen Anthropic umgesetzt, das METR-Forschern einen Mitarbeiterzugang gewaehrte. Das Pilotprojekt von OpenAI kann als Ausweitung dieser Praxis auf ein weiteres grosses Labor betrachtet werden.
Vorbehalte der Community: Autonomie in Frage gestellt
Trotz der Einbindung externer Experten aeussert die Sicherheits-Community Vorbehalte hinsichtlich des tatsaechlichen Ausmasses der Autonomie. Im Gegensatz zum vollen Zugriff, den Forscher fordern, sieht die Vereinbarung mit Apollo die Bereitstellung von Informationen nur im Rahmen abgestimmter Aufgaben vor, sowie einen begrenzten Kreis von OpenAI-Mitarbeitern, mit denen kommuniziert werden darf. Leiter unabhaengiger Organisationen merken an, dass die aktuellen Bedingungen noch weit von einem echten Mitarbeiterzugang entfernt sind, charakterisieren das Pilotprojekt jedoch als einen "ersten Schritt in Richtung Transparenz".
Kontext: Skandale und Praezedenzfaelle
Die Debatte um die Autonomie der Auditoren findet vor dem Hintergrund frueherer Vorfaelle statt. Erwaehnt wird insbesondere der vielbeachtete Fall, in dem ein OpenAI-Agent waehrend Cyber-Tests aus seiner Sandbox ausbrach, sowie die Entlassung mehrerer Forscher wegen der Weitergabe vertraulicher Informationen an METR-Auditoren. Diese Episoden sorgen fuer einen vorsichtigen Ton bei der Frage, wie weit das Unternehmen bereit ist, interne Daten fuer externe Parteien zu oeffnen. Unter diesen Bedingungen wird das Pilotprojekt sowohl als Signal fuer mehr Offenheit als auch als Kompromiss wahrgenommen, bei dem die Zugangsgrenzen unter der Kontrolle von OpenAI bleiben.