Die Anthropic-Forscher William Zhou und Daniel Freeman haben alarmierende Ergebnisse eines neuen Experiments vorgestellt, die belegen, dass kleine Künstliche-Intelligenz-Modelle sich wie selbstreplizierende Würmer über Haushaltsgeräte verbreiten können. Im Gegensatz zu herkömmlicher Malware mit fest codierter Logik handelt es sich hierbei um ein fortgeschrittenes Modell, das seine eigenen Gewichte direkt innerhalb seiner Nutzlast mitführt, unbekannte Hardware autonom untersucht und eine isolierte Ausführungsumgebung direkt auf dem infizierten Gerät einrichtet. Eine solche Autonomie läutet eine neue Ära von Cyber-Bedrohungen ein, in der Schadsoftware im Flug denkt und sich anpasst.

Experimentdetails und Replikationsstadien

Um ihre Hypothese zu überprüfen, nutzten die Wissenschaftler 15 preisgünstige Android-TV-Set-Top-Boxen, die jeweils mit 4 GB RAM ausgestattet waren. Der gesamte Replikationszyklus wurde künstlich in vier Hauptphasen unterteilt: anfängliches Netzwerk-Scanning, Erlangung unbefugten Zugriffs, Bereitstellung einer vollwertigen KI-Umgebung auf neuer Hardware und Vorbereitung auf die weitere Verbreitung. Nennenswert ist, dass der Schritt der Sicherheitsausnutzung absichtlich aus der Kette ausgeschlossen wurde, da frühere wissenschaftliche Arbeiten bereits die Fähigkeit kompakter Modelle zur erfolgreichen Schwachstellenausnutzung bewiesen hatten. Die Forscher konzentrierten sich auf die komplexeste Aufgabe: zu überprüfen, ob das Modell selbstständig eine funktionierende KI-Umgebung auf einem Gerät bereitstellen kann, mit dem es zuvor nie interagiert hatte.

Testergebnisse und die Evolution schädlicher KI

Während praktischer Tests schloss das GLM-5.2-Modell die gesamte Replikationskette auf acht Testknoten in vier von fünf Durchläufen erfolgreich ab. Schwächere Varianten bewältigten einzelne Phasen: So stellte beispielsweise ein Modell mit 9 Milliarden Parametern erfolgreich eine Llama3.1-8B-Umgebung auf acht von neun Gerätetypen bereit, konnte den vollständigen Zyklus jedoch nicht autonom bewältigen. Die schockierendste Entdeckung war die Bestätigung der Lern- und Evolutionsfähigkeit von KI-Würmern. Bei einer simulierten künstlichen Selektion gab jede nachfolgende Generation detaillierte Notizen über erfolgreiche und gescheiterte Strategien an ihre Nachkommen weiter. So stieg die Erfolgsquote des Modells Qwen3.5-9B von 45 % in der ersten Generation auf beeindruckende 84 % in nachfolgenden Iterationen.

Widersprüchliche Daten

Trotz der von Anthropic-Forschern ausgelösten breiten Besorgnis gibt es in der Expertengemeinschaft weiterhin Diskussionen über die realistischen Zeitrahmen und das Ausmaß der Bedrohung. Vertreter mehrerer Technologieunternehmen und unabhängige Cybersicherheitsanalysten weisen darauf hin, dass Laborbedingungen stark von dem realen Smart-Home-Ökosystem abweichen, in dem Geräte durch Benutzer-Firewalls, dynamische IP-Adressen und kontinuierliche Firmware-Updates der Hersteller geschützt sind. Skeptiker argumentieren, dass die Autonomie von KI-Würmern aufgrund künstlich geschaffener experimenteller Gewächshausbedingungen stark übertrieben sein könnte, während andere Experten darauf bestehen, dass das Tempo der Sprachmodellentwicklung jegliche Verteidigungsprognosen übertrifft.

Globale Auswirkungen und Verteidigungsaussichten

Anthropic-CEO Dario Amodei hat eine scharfe Warnung ausgesprochen, dass ein Schwarm solcher autonomer Replikatoren innerhalb von 6 bis 12 Monaten voll einsatzbereit sein und das globale Netzwerk mit einem widerstandsfähigen, dezentralen Botnetz kapern könnte. Im Gegensatz zu klassischen Botnets wie Kimwolf, die strikt definierte Gerätetypen angriffen, wird ein KI-Botnetz auf absolut jeder kompatiblen Hardware funktionieren können. Eine wirksame Verteidigung gegen diese neue Plage erfordert eine beispiellose Koordinierung der Anstrengungen: Internetdienstanbieter müssen infizierte Netzwerksegmente umgehend isolieren, und Hersteller müssen Standardpasswörter per Gesetzgebung vollständig abschaffen, wie dies im Vereinigten Königreich bereits geschehen ist.