KI-Halluzination führte beinahe zu einem militärischen Konflikt zwischen den USA und China: Wie ein Chatbot eine nukleare Fracht auf einem chinesischen Schiff erfand

Die US-Marine stand im September 2026 am Rande einer direkten bewaffneten Konfrontation mit der Volksrepublik China – und die Ursache des potenziellen Krisenfalls war nicht die klassische Aufklärung, sondern eine Halluzination eines kommerziellen Chatbots. Laut Quellen in der Marine hatte die US-Militärgeheimdienststelle ein geheimes Analysepapier erstellt, in dem behauptet wurde, ein chinesisches ziviles Schiff in der Region Naher Osten transportiere Komponenten zur Herstellung von Atomwaffen. Auf Grundlage dieses Dokuments bildete das Pentagon in dringender Ordnung eine Operation zur gewaltsamen Festnahme des Schiffes aus: Kampfflugzeuge wurden in die Luft gebracht, und Einheiten von Marineinfanteristen-Interzeptionsteams erhielten Bereitschaft zur Sturmlandung an Bord.

Die Operation, die im letzten Moment abgesagt wurde

Der entscheidende Wendepunkt kam, als mehrere Beamte, die Zugang zu den Originalquellen hatten, beschlossen, die Daten vor Beginn der gewaltsamen Phase erneut zu verifizieren. Die zusätzliche Überprüfung ergab, dass die Informationen über die nukleare Fracht keinerlei reale Grundlage hatten: Sie waren vollständig von einem KI-Algorithmus generiert worden. Laut Quellen in der Marine hätte die Umsetzung der Operation – die gewaltsame Beschlagnahmung des chinesischen Schiffes – eine direkte militärische Konfrontation zwischen zwei Atommächten mit unvorhersehbaren geopolitischen Folgen auslösen können. Die Mission wurde abgesagt, und die Luftwaffe sowie die Landeeinheiten wurden in den Hafen zurückbeordert.

Wie der Chatbot den „nuklearen“ Fakt erfand

Eine interne Untersuchung der Behörde ergab, dass ein Mitarbeiter der Analyseeinheit einen kommerziellen Chatbot zur Verknüpfung offener Daten (Open-Source-Intelligence) mit geheimen elektronischen Abhördaten verwendet hatte. Der Algorithmus generierte bei der Verarbeitung des heterogenen Datenmengen einen falschen Schluss – eine Interpretation, in der Alltags- oder Industriekomponenten an Bord des Schiffes fälschlicherweise als Bauteile zur Herstellung von Atomwaffen klassifiziert wurden. Dieses falsche Ergebnis wurde in Form einer Analytenotiz aufbereitet und ohne zusätzliche menschliche Verifizierung in den Zwischenstufen auf die Entscheidungsebene weitergeleitet.

Systemische Probleme: Dezentralisierung und kommerzielle Software

Experten, die den Vorfall kommentieren, weisen auf mehrere systemische Mängel in der Art hin, wie Militärstrukturen KI einsetzen. Erstens geht es um die Dezentralisierung der Werkzeuge: Verschiedene Einheiten des Pentagons und der Geheimdienstgemeinschaft verwenden grundlegend unterschiedliche Programme und Modelle ohne einheitlichen Validierungsstandard für die Schlüsse. Zweitens setzen Aufklärungsstrukturen häufig angepasste Versionen gewöhnlicher ziviler Chatbots ein, die kein spezialisiertes Testen auf Halluzinationsresistenz bei der Arbeit mit geheimen Daten durchlaufen. Drittens handelt es sich laut Experten beim Fall mit dem chinesischen Schiff nicht um einen Einzelfall: KI-Algorithmen generieren regelmäßig falsche Schlüsse bei der Analyse großer Datenmengen, und der Vorfall im Nahen Osten war lediglich der Fall, der dank der zufälligen Entscheidung, die Originalquellen erneut zu prüfen, nicht zur Katastrophe wurde.

Risiken der Zukunft: Die Armie stützt sich immer stärker auf Algorithmen

Experten betonen, dass das Wachstum der Aufklärungsdatenmengen die Streitkräfte zwingt, sich bei der Zielidentifikation, der Bedrohungsklassifizierung und der Erstellung analytischer Zusammenfassungen immer stärker auf KI-Algorithmen zu stützen. Das Fehlen strenger Kontrollen, einheitlicher Verifizierungsprotokolle und Transparenz der Entscheidungs-kette schafft jedoch das Risiko, dass ein ähnlicher Fehler in Zukunft unter Bedingungen auftreten könnte, in denen weder Zeit noch organisatorische Ressourcen für eine erneute Überprüfung übrig bleiben. Der Vorfall mit dem chinesischen Schiff ist, so die Meinung der Analysten, ein Warnsignal für die gesamte militärische Führung der USA und der NATO-Verbündeten, die ebenfalls die Einführung von KI in die Aufklärungszyklen beschleunigen.