Anthropic hat eine ernsthafte Warnung ausgesprochen, dass kleinere Modelle der künstlichen Intelligenz bald in der Lage sein könnten, sich selbst zu replizieren und über internetverbundene Geräte aktiv zu verbreiten. Ein derartiges Szenario sorgt in der Cybersicherheitsbranche für Besorgnis, doch Experten betonen, dass die Erstellung eines voll funktionsfähigen KI-Wurms noch in weiter Ferne liegt und die Meinungen über die Dringlichkeit dieses Risikos auseinandergehen.

Erforschung verteilter Fähigkeiten

Im Oktober 2026 veröffentlichte das KI-Sicherheitstestteam von Anthropic eine Studie, die nahelegt, dass Selbstreplikationsfähigkeiten Realität werden könnten, wenn sich kleinere Modelle in ihrem bisherigen Tempo weiterentwickeln. Während eines Experiments ließen die Forscher ein Modell auf 15 miteinander verbundenen, kostengünstigen Android-TV-Receivern laufen. Das Experiment zeigte, dass Rechenressourcen mehrerer gewöhnlicher Haushaltsgeräte erfolgreich gebündelt werden können, um KI auszuführen, wenn auch mit geringer Geschwindigkeit.

Mögliche Ziele und Schwachstellen

In dem von den Forschern modellierten Szenario könnten Haushaltsgeräte und Kleinbetriebsgeräte, die über Rechenleistung, aber schwache Systemsicherheit verfügen, zu Zielscheiben werden. Eine solche verteilte Infrastruktur wäre schwer von einem zentralen Punkt aus abzuschalten. Dennoch handelt es sich hierbei lediglich um ein erforschtes Risiko und nicht um ein in der Praxis bestätigtes Beispiel eines sich selbst verbreitenden KI-Netzwerks.

Widersprüchliche Daten

Die Studie hat gemischte Reaktionen und Debatten ausgelöst. Das Cybersicherheitsportal BleepingComputer betonte, dass das Forschungsteam von Anthropic noch keinen voll autonomen KI-Wurm auf einem realen IoT-Gerät demonstriert hat und die Installation auf schwacher Hardware Stunden oder Tage dauern kann. Unterdessen argumentierte Ciaran Martin, der ehemalige Leiter des britischen National Cyber Security Centre, die Informationen seien etwas übertrieben, da die Ausführung eines Modells auf günstigen Geräten nicht ausreicht, um von einer Sicherheitskrise zu sprechen. Andererseits äußerte sich Zhengshiong Li von der University of Colorado Denver besorgt über die Anpassungsfähigkeit von KI bei Gerätekompromittierungen.

Analyse und Schlussfolgerungen

Die vorgestellten Ergebnisse erfordern eine klare Unterscheidung zwischen in einer Testumgebung nachgewiesenen Fähigkeiten und der Fähigkeit zur Selbstreplikation unter realen Bedingungen. Die Expertengemeinschaft ist sich einig, dass dies als Szenario betrachtet werden sollte, das weitere Forschung erfordert, anstatt als endgültige Vorhersage, was die Notwendigkeit von Sicherheitsgrenzen bei autonomen Technologien unterstreicht.