Das Unternehmen OpenAI hat einen grundlegend neuen Mechanismus für die Unternehmenssicherheit namens Private Safety Processing angekündigt. Das System richtet sich an Geschäftskunden, die den Modus Zero Data Retention (ZDR) nutzen, und soll betrügerische und missbräuchliche Szenarien aufdecken, ohne dabei den Inhalt von Nachrichten und Dateien der Nutzer preiszugeben. Laut den Entwicklern besteht die Kernidee darin, nicht den Text einzelner Anfragen zu analysieren, sondern Verhaltensmuster, was die Vertraulichkeit der Daten auch bei aktiver Arbeit der Sicherheitssysteme gewährleistet.

Von einzelnen Anfragen zu Verhaltensmustern

Wie OpenAI betont, bewerten bestehende automatisierte Sicherheitstools jede Nachricht einzeln. Mit der wachsenden Komplexität der Aufgaben, die autonome KI-Agenten übernehmen, zeigen sich böswillige Absichten oder Funktionsstörungen jedoch oft erst in einer Reihe miteinander verbundener Anfragen. Typische Beispiele, die die Entwickler nennen, sind das schrittweise Umgehen von Schutzbarrieren durch Angreifer, die Koordinierung von Aktionen über mehrere Konten hinweg oder die Fortsetzung von Aktionen durch einen KI-Agenten nach einer Stopp-Anweisung. Genau solche zeitlich verteilten Szenarien bleiben für klassische Einzelprüfungen unsichtbar.

So funktioniert Private Safety Processing

Der neue Ansatz ermöglicht die Erkennung verdächtiger Verhaltensmuster ohne Verlust der Vertraulichkeit: Das System analysiert die Struktur und Abfolge von Interaktionen, nicht deren Inhalt. Für ZDR-Unternehmenskunden bedeutet dies die Wahrung der bestehenden Garantie – OpenAI speichert Anfragen und Antworten nach der Verarbeitung nicht, und Mitarbeiter des Unternehmens haben keinen Zugriff darauf. Im Falle eines strittigen Vorfalls erhält der Kunde die Möglichkeit, die Untersuchung eigenständig in den Ereignisprotokollen durchzuführen und nach eigenem Ermessen Datenfragmente für eine Berufung bereitzustellen, wodurch die Initiative zur Offenlegung von Informationen auf die Seite des Auftraggebers verlagert wird.

Testphase und Partnerkreis

Gegenwärtig wird Private Safety Processing unter einer begrenzten Anzahl von OpenAI-Partnern getestet – Microsoft, Glean, Databricks und Abridge. Der vollständige öffentliche Start des Systems sowie die Veröffentlichung eines detaillierten technischen Dokuments, das Architektur und Analysemethoden beschreibt, sind für September geplant. Bis dahin basieren die verfügbaren Informationen überwiegend auf Aussagen der Entwickler und allgemeinen Beschreibungen, nicht auf unabhängigen technischen Analysen.

Fokus auf sensible Branchen

Die Entwickler haben besonders betont, dass das Update auf Organisationen ausgerichtet ist, die mit finanziellen, medizinischen und anderen sensiblen Daten arbeiten. Für solche Sektoren, in denen die Anforderungen zum Schutz personenbezogener und unternehmensbezogener Daten am strengsten sind, wird die Möglichkeit, Missbrauch ohne Offenlegung des Nachrichteninhalts zu erkennen, zu einem kritischen Faktor bei der Wahl einer unternehmensweiten KI-Plattform.

Kontext des Wettbewerbs und Zero Data Retention

Laut Branchenmedien wird die Verstärkung des Schutzes personenbezogener Daten für Geschäftskunden von OpenAI unter anderem im Kontext des Wettbewerbs mit anderen Entwicklern großer Modelle betrachtet, insbesondere mit dem Unternehmen Anthropic. Die Unterstützung von Zero Data Retention für Frontier-Modelle wird zu einem der wichtigsten Argumente im Kampf um den Unternehmenssektor, in dem Anforderungen an die Speicherung und den Zugriff auf Daten die Auswahl des Anbieters bestimmen.

Was kommt als Nächstes

Der nächste bedeutende Schritt wird der Start im September und die Veröffentlichung des technischen Dokuments sein, das unabhängigen Experten und Auftraggebern ermöglichen wird, die tatsächlichen Analysemethoden für Muster und die Grenzen der Anwendbarkeit des Systems zu bewerten. Bis dahin bleibt Private Safety Processing eine Lösung in der Testphase, und ihre praktische Effizienz unter realen Unternehmensbedingungen wird nach dem öffentlichen Release bestätigt werden.