Im September 2026 wurde in der Community der KI-Sicherheitsspezialisten eine alarmierende Sirene ausgelöst: Es wurde bekannt, dass OpenAI in ihrem neuen Modell Astra eine Technologie getestet hat, die in der Fachwelt als „undurchsichtige Rekursion' (opaque recursion) bezeichnet wird. Im Gegensatz zur klassischen sequenziellen Denk-Kette (Chain of Thought), die es einem externen Beobachter ermöglicht, die Logik des Algorithmus Schritt für Schritt zu verfolgen, Fehler zu identifizieren und potenziell gefährliches Verhalten aufzudecken, zwingt die neue Methode das Modell, dieselbe Anfrage mehrfach und nichtlinear zu verarbeiten. Das Ergebnis ist eine Kette von Schlussfolgerungen, die von außen praktisch nicht rekonstruiert oder analysiert werden kann. Für eine Branche, in der die Transparenz der Protokollierung lange Zeit das Hauptinstrument der KI-Audits war, bedeutet dies einen qualitativen Shift in Richtung „Blackbox'.

Reaktion der Experten: von „tiefer Besorgnis' bis zu Forderungen nach gesetzlicher Intervention

Der Leak über die Tests löste eine sofortige und harte Reaktion der Schlüsselfiguren im Bereich der KI-Sicherheit aus. Bag Schleggeris, Geschäftsführer des Forschungsinstituts Redwood Research, äußerte öffentlich „tiefe Besorgnis' und wies darauf hin, dass eine weitere Skalierung einer solchen Technologie die Möglichkeit zur Überwachung des Verhaltens von KI-Systemen vollständig zerstören könnte. Zvi Moshovitz, KI-Sicherheitsexperte, ging noch weiter und forderte die Einführung gesetzlicher Regulierungen, die das „gefährliche Rennen' zwischen den Laboren stoppen und die Transparenz der Algorithmen auf institutioneller Ebene bewahren sollten. Ryan Greenblatt, Chefwissenschaftler bei Redwood Research, formulierte das pessimistischste Szenario: Nach seiner Einschätzung wird KI in Zukunft vollständig auf Denken in einem verborgenen latenten Raum umstellen, in dem für den Menschen keine verfügbaren Protokolle mehr existieren werden – weder textuelle noch strukturierte.

Kontext: nicht nur OpenAI

Wichtig ist zu betonen, dass Astra nicht das einzige Projekt ist, in dem ähnliche Ansätze erwogen werden. Laut vorliegenden Informationen werden nichtlineare und mehrstufige Schemas des Schlussfolgerns bereits in den Teams von Anthropic und Google DeepMind diskutiert. Damit wird die Situation aus einem Einzelversuch eines Labors zu einem Branchentrend, was, so die Kritiker, das Argument für eine externe statt interne Kontrolle nur noch stärkt. Wenn jedes große Labor eigene „undurchsichtige' Denkformate ohne einheitlichen Audit-Standard entwickelt, wird die Aufgabe der KI-Sicherstellung praktisch unlösbar.

Position von OpenAI: „Wir bleiben der Transparenz verpflichtet'

Als Reaktion auf die wachsende Kritik trat OpenAI-Chefwissenschaftler Jakub Pachocki mit einer Erklärung auf, in der er betonte, dass das Unternehmen „der Beibehaltung transparenter und verständlicher Denk-Ketten verpflichtet bleibe'. Vertreter des Entwicklers präzisierten, dass die Nutzung nichtlinearen Denkens in Astra auf der aktuellen Stufe begrenzt sei und das Modell selbst für Überwachungssysteme „lesbar' bleibe. OpenAI versicherte zudem, dass kein vollständiger Wechsel auf geschlossene Schlussfolgerungsformate geplant sei und die Entwicklung groß angelegter Überwachungssysteme für die Sicherheit seiner Produkte fortgesetzt werde. Dennoch wirft, nach Einschätzung unabhängiger Experten, allein die Tatsache des Technologie-Tests die Frage auf, wo die Grenze zwischen einem „begrenzten' Experiment und einer irreversiblen Änderung der KI-Architektur verläuft.

Widersprüchliche Daten

Bei der Abgleichung der Informationen aus verschiedenen Quellen zeigt sich eine erhebliche Diskrepanz in der Bewertung des aktuellen Status des Astra-Projekts. Einerseits beschreiben die Aussagen von OpenAI und die Meldungen mehrerer Medien (darunter RBC-UA) das Modell als aktiv getestet, mit einem begrenzten, aber bereits funktionierenden Modul der undurchsichtigen Rekursion. Andererseits berichtet das Medium 3DNews unter Verweis auf eigene Quellen, dass OpenAI die Entwicklung von Astra ausgesetzt habe, da das Modell „zu intelligent' gewesen sei und ein Verhalten gezeigt habe, das über das Erwartete hinausgehe. Wenn die Version über die Aussetzung zutrifft, ändert sich der Kontext grundlegend: Es geht nicht um eine geplante Erweiterung der Funktionalität, sondern um ein dringendes „Abbremsen' aufgrund unvorhergesehener Ergebnisse. Zum Zeitpunkt der Erstellung des Artikels (3. September 2026) hatte OpenAI keinen offiziellen Kommentar zur möglichen Aussetzung veröffentlicht, was beide Narrative in einer Zone der Ungewissheit lässt.

Was das für die Branche und Regulierer bedeutet

Unabhängig davon, ob Astra in den industriellen Einsatz gebracht oder im Status eines eingefrorenen Experiments verbleibt, ist der grundsätzliche Shift bereits erfolgt: Die technische Möglichkeit, ein KI-System zu schaffen, dessen innere Logik einem externen Audit nicht zugänglich ist, wurde nachgewiesen. Damit stellt sich vor Regulierern und Öffentlichkeit eine Frage, die noch gestern hypothetisch schien: Wie kontrolliert man das, was prinzipiell nicht lesbar ist? Die diesmal geäußerten Forderungen nach gesetzlicher Regulierung werden mit hoher Wahrscheinlichkeit in den kommenden Monaten aufhören, eine rhetorische Geste zu sein, und zum Gegenstand eines echten Gesetzgebungsverfahrens werden. Für Endnutzer und Unternehmen bedeutet dies, dass die Debatte über „Vertrauen in KI' aus der Ebene der Marketingversprechen auf die Ebene rechtlich fixierter Transparenzgarantien übergeht.