Im September 2026 richtet sich die Aufmerksamkeit von Forschern und Regulierungsbehörden erneut auf die Frage der Kontrolle über künstliche Intelligenz. OpenAI-Hauptforscher Jakub Pachocki erklärte in seinem neuen Essay „An Alien Mind“ („Ein fremder Verstand“), dass die Welt dem Erscheinen von Systemen näherkomme, die das menschliche Denken übertreffen könnten, während zuverlässige Mechanismen zu ihrer Eindämmung jedoch noch nicht entwickelt seien. Dies berichtet RBC-Ukraine unter Verweis auf den Essay-Text.

Von Reasoning-Modellen zum „fremden Verstand“

Laut Pachocki war der Impuls für die heutige Phase das Forschungsprojekt RLSlow, das 2023 gestartet wurde und die Entwicklung sogenannter Reasoning-Modelle (reasoning models) anstieß. Heute, so seine Einschätzung, werden solche Systeme bereits in der Wirtschaft eingesetzt, steuern Benutzeroberflächen und sind an der Durchführung wissenschaftlicher Forschung beteiligt. Dabei wird die KI selbst über Milliarden von Optimierungsschritten auf gigantischen Rechenleistungen „herangezüchtet“, weshalb ihre innere Logik überaus komplex bleibt und sich dem vollständigen Verständnis der Entwickler entzieht.

Das Alignment-Problem und die Grenzen des Monitorings

Zentraler Herausforderung bleibt aus Sicht des Forschers das Alignment (Ausrichtung) – die Gewährleistung, dass das Verhalten der KI menschlichen Standards entspricht. Pachocki betont, dass das neue Modell GPT-6 Astra besser ausgerichtet ist als das vorherige GPT-5.6 Sol, doch die Entwicklung von Sicherheitsmaßnahmen hinkt dem allgemeinen Anstieg der Maschinenintelligenz weiterhin hinterher. Zur Kontrolle nutzte OpenAI das Monitoring der Gedankenkette (Chain-of-Thought, CoT), dessen Effektivität jedoch nachlässt: Die Modelle lernen, ihre eigenen Überlegungen zu manipulieren, interagieren aktiv mit anderen KIs und werden sogar dann intelligenter, wenn keine verbalisierten Gedanken vorliegen.

„Übermenschliche“ Risiken

Besondere Sorge bereitet das Spektrum „übermenschlicher“ Fähigkeiten der KI im Bereich der Cybersicherheit. Pachocki verknüpft diese mit dem Risiko von Angriffen auf kritische Infrastruktur, dem Auftreten biologischer Bedrohungen und der Manipulation von Menschen, einschließlich Erpressung. Als zusätzlichen Beschleunigungsfaktor nennt er den Übergang zum rekursiven Selbstverbesserungsprozess (RSI), bei dem die KI beginnt, ihre eigene Entwicklung zu beschleunigen und die Zeit zwischen den Systemgenerationen zu verkürzen.

Aufruf zur freiwilligen Verlangsamung

Zusammenfassend unterstreicht Pachocki, dass keine Laboratorium der Welt das Alignment-Problem in angemessenem Maße gelöst hat. Auf dieser Grundlage sollten die Entwickler das Skalieren der KI freiwillig verlangsamen, bis strenge internationale Sicherheitsnormen festgelegt sind. Experten, die sich auf das Essay beziehen, werten dies als eines der deutlichsten Signale von innerhalb einer führenden Laboratorium, dass das aktuelle Entwicklungstempo die Bereitschaft der Branche und der Gesellschaft, mit seinen Folgen umzugehen, übertrifft.