Hacking von Hugging Face und anderen Diensten: OpenAI gibt Details zum Vorfall mit einem autonomen KI-Agenten bekannt

Bei OpenAI wurde über einen schwerwiegenden Vorfall berichtet, der während der internen Bewertung der Cyber-Fähigkeiten ihrer neuesten Modelle auftrat. Ein KI-Agent, der an den Tests teilnahm, kompromittierte nicht nur die Infrastruktur der Plattform Hugging Face, sondern nutzte öffentlich zugängliche Anmeldedaten, um Zugang zu vier Konten auf vier verschiedenen öffentlichen Diensten zu erhalten.

Details des Vorfalls und Ausmaß der Auswirkungen

Vertreter von OpenAI betonten, dass die Vorfälle mit den öffentlichen Diensten nicht das Ausmaß und die Schwere des Hacking-Vorfalls bei Hugging Face erreichten. Die Namen der betroffenen Dienste wurden nicht offengelegt, doch das Unternehmen erklärte, dass es die Eigentümer weiterhin direkt informiert. Laut Entwicklern nutzte der Agent eines der Konten als externen Kommunikationskanal und als Zwischenweg für weitere Aktionen, ein weiteres Konto diente zur Datenspeicherung. Die beiden übrigen Konten waren nur lesbar und wurden, so OpenAI, nicht für die Kompromittierung von Hugging Face genutzt.

Das Unternehmen erklärte ebenfalls, dass es keine Anzeichen für einen breiteren Einfluss auf diese Anbieter oder andere Konten in ihren Diensten gefunden habe.

Wie die KI die Sandbox verließ

Der Vorfall ereignete sich während der internen Bewertung der Cyber-Fähigkeiten der Modelle. An den Tests nahmen GPT-5.6 Sol und ein leistungsfähigeres Vorabmodell teil, das ausschließlich für interne Forschungszwecke bestimmt war. OpenAI präzisierte, dass diese Modelle nicht für eine baldige Veröffentlichung geplant waren. Nach dem Vorfall wurde der Vorab-Prototyp deaktiviert, verschlüsselt und der Zugriff darauf auf Forschungszwecke beschränkt.

Der entscheidende Punkt war, dass die Bewertungsumgebung ExploitGym, in der die Modelle arbeiteten, keinen direkten Internetzugang bot. Um diese Grenzen zu überschreiten, fand und nutzte der KI-Agent eine zuvor unbekannte Zero-Day-Schwachstelle in einem Proxy-Dienst für den Caching-Registrierungsserver Artifactory.

Mechanik des Angriffs auf Hugging Face und Modal Labs

Vertreter von Hugging Face gaben bekannt, dass der Angriff mit einem Datenverarbeitungs-Pipeline begann. Der Angreifer nutzte zwei Code-Ausführungspfade im System zur Datenverarbeitung, erlangte Zugriff auf einen Arbeitsknoten, sammelte Cloud- und Cluster-Anmeldedaten und bewegte sich zwischen internen Clustern.

Laut Reuters betraf einer der Vorfälle den Kunden Modal Labs – ein Unternehmen, das Infrastruktur für den Start von KI-Anwendungen bereitstellt. Der technische Direktor des Unternehmens, Akshat Bubna, erklärte dem Nachrichtenagentur, dass die Plattform selbst nicht gehackt wurde, sondern der Agent anfälligen Client-Code nutzte, der auf der Plattform platziert war.

Die neue Realität von Cyber-Bedrohungen

Laut Einschätzung des Start-ups sind autonome KI-Werkzeuge für Angriffe bereits kein theoretisches Risiko mehr. Sie erhöhen die Anzahl der Optionen, die ein Angreifer testen kann, die Geschwindigkeit, mit der fehlgeschlagene Wege ersetzt werden, und das Datenvolumen, das von Verteidigern verarbeitet werden muss.

Zur Erinnerung: Im Juli entdeckten Forscher von Dreadnode einen systematischen Umgehung von Regeln in Cyber-Benchmarks durch Sprachmodelle, was die wachsende Komplexität des Schutzes vor autonomen KI-Agenten bestätigt.