OpenAI löst die Preparedness-Abteilung auf: Was hinter der Schließung der Abteilung für die Bewertung existenzieller KI-Risiken steckt

Ende Juli 2026 beschloss das Unternehmen OpenAI, die Abteilung Preparedness aufzulösen – eine Team, das sich mit der Bewertung von Risiken durch die leistungsfähigsten künstlichen Intelligenzen befasste. Dies meldet die Financial Times und stellt fest, dass die Aufgaben der Abteilung nun auf andere Unternehmensbereiche verteilt wurden. Diese Entscheidung stellt einen weiteren Schritt in der umfassenden Umstrukturierung der internen Struktur von OpenAI dar, die in den letzten Jahren ihre Ansätze zum Sicherheitsmanagement von KI rasch verändert hat.

Auflösung der Preparedness-Abteilung: Was bedeutet das für die KI-Sicherheit?

Die Preparedness-Abteilung befasste sich mit Szenarien, in denen eine fortschrittliche KI eigenständig fremde Systeme angreifen, Cyber-Werkzeuge nutzen oder zur Entstehung biologischer Bedrohungen beitragen könnte. Die Risikobewertung in diesen Bereichen wird nun von bereits bestehenden Abteilungen übernommen. OpenAI behauptet, dass die Arbeit selbst nicht verschwindet, sondern dass ihre direkte Integration in die Entwicklung von Modellen und Produkten das Sicherheitssystem effektiver machen könnte.

Experten auf dem Gebiet der KI-Sicherheit äußern jedoch Bedenken, dass eine Verwässerung der Verantwortung zwischen den Abteilungen zu einer Verschlechterung der Risikobewertung führen könnte. Nach Ansicht der Kritiker waren spezialisierte Teams wie Preparedness für eine tiefgehende Analyse existenzieller Bedrohungen notwendig, die sich durch die Entwicklung einer übermenschlichen KI ergeben könnten.

Die Geschichte der Umstrukturierungen bei OpenAI: Von AGI Readiness bis Preparedness

Die Entscheidung zur Schließung von Preparedness wirkt besonders auffällig vor dem Hintergrund vorheriger Umstrukturierungen im Unternehmen. In den letzten zwei Jahren hat OpenAI bereits AGI Readiness und Mission Alignment geschlossen – Abteilungen, die sich ebenfalls mit Sicherheitsfragen und der Übereinstimmung mit der Mission von OpenAI befassten. Zudem verließen der operative Direktor Brad Lightcap und die Chefin für Ethik Chloe Bakal das Unternehmen.

Der ehemalige Leiter von Preparedness, Dylan Scandurano, konzentriert sich nun auf die Risiken selbstverbessernder KI, obwohl das von ihm gegründete Team nicht mehr existiert. Diese personellen Änderungen und strukturellen Reformen zeigen, dass OpenAI ihren Ansatz zur KI-Sicherheit neu denkt und vom Aufbau spezialisierter Abteilungen hin zur Integration von Sicherheitsfragen in die Hauptentwicklungsprozesse übergeht.

Widersprüchliche Daten: Effektivität der Integration vs. Risiko des Verlusts von Expertise

Einerseits behauptet OpenAI, dass die Integration der Risikobewertung in die Entwicklung von Modellen und Produkten das Sicherheitssystem effektiver machen wird. Andererseits weisen Experten darauf hin, dass spezialisierte Teams wie Preparedness für eine tiefgehende Analyse existenzieller Bedrohungen notwendig waren, die sich durch die Entwicklung einer übermenschlichen KI ergeben könnten.

Kritiker befürchten, dass eine Verwässerung der Verantwortung zwischen den Abteilungen zu einer Verschlechterung der Risikobewertung führen könnte. Ihrer Meinung nach sollten spezialisierte Teams unabhängig bleiben und die Möglichkeit haben, eine tiefgehende Analyse von Bedrohungen ohne Druck durch die kommerziellen Interessen des Unternehmens durchzuführen.

Kontext: Vor dem IPO und unter Druck der Investoren

Die Entscheidung zur Schließung von Preparedness wurde vor dem möglichen Börsengang (IPO) von OpenAI getroffen, der für 2026 erwartet wird. Laut Quellen steht das Unternehmen unter Druck von Investoren, die mehr Transparenz und Effizienz im Risikomanagement fordern. Unter diesen Umständen hat OpenAI möglicherweise beschlossen, ihre Struktur zu optimieren, um den Erwartungen des Marktes gerecht zu werden.

Experten warnen jedoch, dass das Streben nach Optimierung nicht auf Kosten der Sicherheit gehen sollte. Angesichts der Tatsache, dass KI immer leistungsfähiger und autonomer wird, müssen Sicherheitsfragen Priorität behalten, auch wenn dies zusätzliche Ressourcen und spezialisierte Teams erfordert.

Fazit: Das Gleichgewicht zwischen Effizienz und Sicherheit

Die Entscheidung von OpenAI, die Preparedness-Abteilung aufzulösen, spiegelt das komplexe Gleichgewicht zwischen Effizienz und Sicherheit wider, das angesichts der raschen Entwicklung der KI besteht. Einerseits kann die Integration der Risikobewertung in die Hauptentwicklungsprozesse das Sicherheitssystem flexibler und anpassungsfähiger machen. Andererseits kann der Verlust spezialisierter Teams zu einer Verschlechterung der Bewertung existenzieller Bedrohungen führen.

Letztendlich wird der Erfolg dieser Entscheidung davon abhängen, wie effektiv OpenAI Sicherheitsfragen in ihre Entwicklungsprozesse integrieren kann, ohne dabei die Tiefe der Analyse und die Unabhängigkeit der Risikobewertung zu verlieren. Für die gesamte KI-Industrie kann diese Entscheidung zu einem wichtigen Präzedenzfall werden, der zeigt, wie große Unternehmen das Risikomanagement in Zeiten schnellen technologischen Fortschritts angehen.