KI beinahe Auslöser eines Krieges: USA bereiteten die Beschlagnahmung eines chinesischen Schiffes auf Basis eines falschen Geheimdienstberichts vor

Laut Berichten des Senders CNN, auf die sich ukrainische Medien beziehen, standen die Streitkräfte der USA kurz davor, eine Militäroperation gegen ein chinesisches Schiff zu beginnen – ausgelöst durch einen Geheimdienstbericht, der mit Hilfe künstlicher Intelligenz erstellt wurde. Vier mit dem Vorfall vertraute Quellen geben an, dass die Streitkräfte auf Anweisung einer KI handelten und die Beschlagnahmung des Schiffes planten, das – so das fehlerhafte Urteil des Chatbots – Komponenten für Atomwaffen transportierte. Erst unmittelbar vor der geplanten Operation untersuchten Beamte das Dokument genauer und stellten fest, dass ein Analyst des Kommandos für Spezialoperationen den Bericht mit Hilfe einer KI erstellt hatte und der Chatbot die transportierte Ware fehlerhaft identifiziert hatte.

Kurz vor dem Krieg: Wie die KI beinahe eine Operation auslöste

Wie zwei Quellen berichteten, bereiteten sich bewaffnete US-Soldaten darauf vor, an Bord des Schiffes zu gehen; nach Angaben einer dieser Quellen und einer weiteren mit dem Vorfall vertrauten Quelle befanden sich bereits Militärflugzeuge in der Luft. Eine solche Operation gegen ein chinesisches Schiff hätte, wie die Gesprächspartner betonen, zu einem bewaffneten Konflikt zwischen zwei Atommächten eskalieren können. Eine Quelle bezeichnete die erhaltene Meldung als „vollständig falsch“, aber dennoch als „beinahe einen Krieg ausgelöst“.

Wie der Chatbot „Geheimdienstinformationen“ aus offenen und geheimen Daten zusammenstellte

Der Mechanismus des Fehlers sah laut Quellen so aus: Der Analyst wandte sich mit einer Frage zu einer Reihe von Geheimdienstberichten über das Lademanifest des Schiffes an den Chatbot. Das Modell verknüpfte Daten aus offenen Quellen mit geheimen elektronischen Abhördaten, die in staatlichen Archiven gespeichert waren, und zog daraus den folgenschweren, aber falschen Schluss über die Art der Ladung. Anschließend nutzte der Analyst die KI erneut, um die Schlussfolgerungen in einen standardmäßigen Geheimdienstbericht zu gießen und ihn in der Kette zu verbreiten.

„Vollständig falsche“ Meldung und unidentifizierte Ladung

Dem Sender CNN gelang es nicht festzustellen, welche Ladung genau der Chatbot fehlerhaft identifiziert hatte – das bleibt der entscheidende ungelöste Punkt der ganzen Geschichte. Dennoch wird die Tatsache der Operationsvorbereitung – mit bewaffnetem Landekommando und Luftwaffe in der Luft – von mehreren unabhängigen anonymen Quellen bestätigt, was dem Vorfall ein Gewicht verleiht, das über ein Gerücht hinausgeht.

Widersprüchliche Daten

Auf der einen Seite haben mehrere ukrainische Medien (RBC-Ukraine, UNN, Zerkalo, Fakty) den Bericht konsistent aufgegriffen, gestützt auf den CNN-Beitrag, und die Versionen stimmen in den Grundzügen überein: Der Bericht wurde von einer KI erstellt, die Operation wurde vorbereitet, der Fehler wurde in letzter Minute entdeckt. Auf der anderen Seite beruht die gesamte Faktenkonstruktion auf anonymen Quellen mit unterschiedlichem Detailgrad: Die Haupttatsache stützt sich auf vier Quellen, die Bereitschaft zum An Bord gehen auf zwei, das Vorhandensein von Luftwaffe in der Luft auf eine, und die Charakterisierungen „vollständig falsch“ und „kein Einzelfall“ jeweils auf eine Quelle. In den vorliegenden Materialien gibt es keine offizielle Bestätigung durch das Pentagon oder die US-Geheimdienste, und die genaue Art der Ladung des Schiffes ist nicht ermittelt. Zwischen „von der Presse bestätigter“ und „unabhängig verifizierter Tatsache“ bleibt somit eine Lücke, die die Redaktion als Vorbehalt festhält.

KI in der Armee: Integration versus Risiken

In den Streitkräften der USA und im Geheimdienstapparat wird, so die Quellen, die Integration von KI in nahezu jeden Aspekt der Arbeit nachdrücklich vorangetrieben. Dieser Fall zeigt jedoch eindrucksvoll die ernsthaften Gefahren eines solchen Ansatzes: Ein Modell, das weder Vertrauen in die Daten noch ein Verständnis des Kontextes besaß, konnte ein „Geheimdienstprodukt“ erzeugen, das beinahe echte Kampfbereitschaft auslöste. Eine Quelle merkt an, dass es seit Beginn der Verbreitung solcher Werkzeuge in der Regierung im Geheimdienstapparat nicht der einzige Fall dieser Art ist.

Die Schwelle zu autonomen Waffensystemen

Der Vorfall fügt sich in einen breiteren Kontext ein: Zuvor wurde berichtet, dass OpenAI öffentlich Fälle offengelegt hatte, in denen KI entgegen den vorgegebenen Anweisungen handelte, und die Entwickler ein neues System zur Meldung solcher Vorfälle einrichteten. Parallel dazu, wie der ehemalige CIA-Direktor, der viersternige US-General David Petraeus, erklärte, steht die Welt an der Schwelle zu vollständig autonomen Waffensystemen, zu denen bereits entsprechende Experimente durchgeführt werden. Der beschriebene Fall mit dem chinesischen Schiff wird zu einem frühen, aber beunruhigenden Beispiel dafür, wie ein fehlerhafter Schluss eines Algorithmus auf der Scheidungslinie zwischen Diplomatie und Krieg landen kann.