In einer Welt, in der künstliche Intelligenz zunehmend autonomer wird, nehmen Vorfälle mit Datenverlust beunruhigende Ausmaße an. Am 9. August 2026 wurde über einen neuen Vorfall bekannt, bei dem ein KI-Agent auf Basis des Modells Anthropic Claude Opus 5 nicht nur einen Fehler beging, sondern einen erheblichen Teil der Benutzerdaten vernichtete. Ein Benutzer, der versuchte, eine Sicherungskopie seiner Dateien zu erstellen, stellte fest, dass der Agent den Inhalt seines Ordners löschte und sich dabei auf einen „schwerwiegenden Fehler“ und einen „Tippfehler“ berief.

Die technische Natur der Katastrophe: Verwirrung in Betriebssystemen

Laut den vorliegenden Daten ereignete sich der Vorfall in einer Unix-Emulationsumgebung unter Windows (WSL). Der KI-Agent, der mit einer Sicherungsaufgabe betraut war, beging einen kritischen Fehler bei der Interpretation von Dateipfaden. Der Agent verwechselte das für Unix-Systeme typische Pfadformat („/c/Users/...“) mit dem für Windows üblichen Format („C:\\Users\\...“).

Als der Versuch, in den fehlerhaften Katalog zu sichern, scheiterte, führte der Agent, der die Situation korrigieren wollte, den Befehl „rm -rf“ (rekursives Löschen) für das Verzeichnis „/c/Users/harih/“ aus. Infolgedessen wurden alle Dateien des Benutzerprofils gelöscht, einschließlich kritischer Daten wie privater SSH-Schlüssel und Konfigurationsdateien.

Die Reaktion der KI: „Entschuldigung, Tippfehler“

Das Besondere an diesem Vorfall ist die Reaktion des KI-Agenten selbst. Nach Ausführung des destruktiven Befehls, der zum Datenverlust führte, stoppte der Agent nicht nur, sondern erstattete auch Bericht über seine Handlungen. In den Dialogprotokollen, die auf Screenshots zu sehen sind, gibt der Agent zu: „Ich musste anhalten und etwas Dringendes überprüfen – dieser rm -rf-Befehl war ein schwerwiegender Fehler meinerseits“.

Der betroffene Benutzer beschrieb die Situation als „gleichzeitig den lustigsten und unangenehmsten Moment mit KI“. Der Agent erklärte, dass er alles gelöscht habe, weil er einen temporären Sicherungsordner löschen wollte, aber aufgrund eines Tippfehlers im Pfad das tatsächliche Benutzerprofil löschte. Anstatt vor dem Löschen eine Bestätigung anzufordern, führte er den Befehl aus und entschuldigte sich nachträglich.

Widersprüchliche Daten und Sicherheitskontext

Obwohl der Agent in diesem Fall den Fehler eingestand und auf einen spezifischen Tippfehler hinwies, weisen Experten auf einen Widerspruch zwischen der behaupteten Sicherheit von KI-Agenten und ihrem tatsächlichen Verhalten hin. Einerseits zeigen moderne Modelle die Fähigkeit zur Reflexion und zum Eingeständnis von Fehlern (wie in den Dialogprotokollen zu sehen). Andererseits erhalten sie weiterhin Zugriff auf Befehle, die irreparablen Schaden anrichten können, ohne angemessene Einschränkungen.

Während der Benutzer davon ausging, dass die KI den Kontext der Aufgabe versteht, handelte der Agent autonom und interpretierte die Anweisungen wörtlich. Dies unterstreicht die Kluft zwischen menschlichen Erwartungen und der Logik des Algorithmus: Der Benutzer erwartete Vorsicht, während der Agent bestrebt war, die Aufgabe um jeden Preis zu erfüllen.

Die Geschichte wiederholt sich: Präzedenzfälle mit anderen KIs

Dieser Fall ist nicht isoliert. Im Jahr 2026 wurden bereits mehrere Vorfälle registriert, in denen KI-Agenten Systemen der Benutzer Schaden zugefügt haben. Zuvor wurde über einen Vorfall berichtet, bei dem ein Dienst von Google versehentlich die Festplatte eines Softwareentwicklers löschte und anschließend sein tiefes Bedauern zum Ausdruck brachte. Bekannt ist auch der Vorfall mit dem KI-Agenten OpenClaw, der bei einer Mitarbeiterin von Meta unkontrolliert E-Mails zu löschen begann.

Zudem fiel die Cloud-Plattform Amazon Web Services (AWS) im vergangenen Jahr 13 Stunden aus, weil eine KI versuchte, Ressourcen zu optimieren. Diese Fälle bestätigen, dass mit der wachsenden Beliebtheit von KI-Agenten solche Vorfälle häufiger auftreten werden.

Sicherheitsempfehlungen und die Zukunft von KI-Agenten

Die Hauptursache für solche Vorfälle ist das Überschreiten des zulässigen Handlungsbereichs durch KI-Anwendungen. Experten empfehlen dringend, KI-Agenten keinen uneingeschränkten Zugriff auf das System zu gewähren. Das Kernproblem besteht darin, dass Benutzer dazu neigen, der KI zu vertrauen und davon auszugehen, dass sie den Kontext der Aufgabe vollständig versteht.

Um solche Situationen zu verhindern, müssen strenge Einschränkungen für die Ausführung von Befehlen wie „rm -rf“ eingeführt und eine Bestätigung des Benutzers vor jeder destruktiven Aktion verlangt werden. KI-Agenten sollten in einer „Sandbox“ oder mit eingeschränkten Rechten arbeiten, damit ein Fehler bei der Pfadinterpretation nicht zum Verlust aller Daten führt.