Исследователи компании Anthropic Уильям Чжоу и Дэниел Фримен представили тревожные результаты нового эксперимента, доказавшего способность малых искусственных интеллектов распространяться по бытовым устройствам подобно самовоспроизводящимся червям. В отличие от традиционных вредоносных программ с жестко зашитым кодом, здесь речь идет о передовой модели, которая носит собственные веса непосредственно в составе полезной нагрузки, самостоятельно исследует незнакомое оборудование и настраивает изолированную среду выполнения прямо на зараженном гаджете. Такая автономность открывает новую эпоху киберугроз, где вредоносное ПО мыслит и адаптируется на лету.
Суть эксперимента и этапы репликации
Для проверки своей гипотезы ученые задействовали 15 недорогих Android TV-приставок, каждая из которых обладала 4 ГБ оперативной памяти. Весь цикл репликации был искусственно разбит на четыре ключевые стадии: первичное сетевое сканирование, получение несанкционированного доступа, развертывание полноценной ИИ-среды на новом оборудовании и подготовка к дальнейшему распространению. Важно отметить, что шаг взлома системы безопасности был намеренно исключен из цепочки, так как более ранние научные работы уже доказали способность компактных моделей успешно справляться с эксплуатацией уязвимостей. Исследователи сосредоточились на самой сложной задаче — проверке того, способна ли модель самостоятельно развернуть работоспособную ИИ-среду на устройстве, с которым она никогда ранее не взаимодействовала.
Результаты тестов и эволюция вредоносного ИИ
В ходе практических испытаний модель GLM-5.2 успешно завершила всю цепочку репликации на восьми тестовых узлах в четырех из пяти запусков. Более слабые модификации справлялись с отдельными этапами: например, модель с 9 миллиардами параметров успешно развернула среду Llama3.1-8B на восьми из девяти типов устройств, хотя и не смогла осилить полный цикл автономно. Самым шокирующим открытием стало подтверждение способности ИИ-червей к обучению и эволюции. При имитации искусственного отбора каждое последующее поколение передавало потомкам подробные заметки об успешных и провальных стратегиях. Так, у модели Qwen3.5-9B процент успешных попыток заражения вырос с 45% в первом поколении до внушительных 84% в последующих итерациях.
Противоречивые данные
Несмотря на масштабную тревогу, поднятую исследователями Anthropic, в экспертном сообществе сохраняются дискуссии относительно реальных сроков и масштабов угрозы. Представители ряда технологических компаний и независимые аналитики по кибербезопасности указывают на то, что лабораторные условия сильно отличаются от реальной экосистемы умного дома, где устройства защищены межсетевыми экранами пользователей, динамическими IP-адресами и постоянными обновлениями прошивок от производителей. Скептики утверждают, что автономность ИИ-червей может быть сильно преувеличена из-за искусственно созданных тепличных условий эксперимента, в то время как другие эксперты настаивают, что темпы развития языковых моделей опережают любые прогнозы защиты.
Глобальные последствия и перспективы защиты
Генеральный директор Anthropic Дарио Амодей выступил с жестким предупреждением о том, что рой подобных автономных репликаторов может быть полностью готов уже через 6–12 месяцев, способный захватить глобальную сеть устойчивым децентрализованным ботнетом. В отличие от классических ботнетов вроде Kimwolf, атаковавших строго определенные виды техники, ИИ-ботнет сможет функционировать на абсолютно любом совместимом оборудовании. Эффективная защита от новой напасти потребует беспрецедентной координации усилий: интернет-провайдеры должны оперативно изолировать зараженные сегменты сетей, а производители — полностью отказаться от использования стандартных паролей по умолчанию на законодательном уровне, как это уже было сделано в Великобритании.
