В поисках внеземной жизни астробиологи десятилетиями опираются на поиск универсальных индикаторов: способности биологических систем кодировать информацию и самовоспроизводиться, подобно ДНК. Именно эти свойства рассматриваются как наиболее вероятные «биосигнатуры», которые можно обнаружить на Марсе, спутниках Юпитера или Сатурна. Однако новое исследование, опубликованное на сервере препринтов arXiv и прокомментированное РБК-Украина, показало, что искусственный интеллект, обученный распознавать такие признаки, можно с лёгкостью обмануть — и он с уверенностью укажет на жизнь там, где её нет.

Как устроилась «цифровая лаборатория»

Чтобы проверить, насколько надёжно нейросети способны отличать живой объект от неодушевлённого, исследователи использовали программу Avida — платформу, генерирующую «цифровую жизнь» в виде программного кода, способного эволюционировать, мутировать и копировать себя в виртуальной среде. На десятках тысяч таких цифровых организмов учёные обучили нейросеть распознавать признаки самовоспроизведения. Результат на этапе обучения оказался впечатляющим: начальная точность распознавания достигла 99,97 процента. Казалось бы, алгоритм готов к работе в условиях, где человек физически не может провести анализ в реальном времени — например, на борту марсохода.

150 правок и 100-процентный обман

Однако дальнейшее тестирование выявило критическую уязвимость. Учёные взяли код организма, не способного к размножению, и внесли в него лишь отдельные, точечные изменения — по сути, «шум» в последовательности команд. Независимо от того, с какой исходной последовательности начинали эксперимент, исследователям удавалось обмануть ИИ в 100 процентах случаев, как отметил аспирант кафедры компьютерных наук и инженерии Мичиганского государственного университета (MSU) Анкит Гупта. Для того чтобы алгоритм ошибочно признал неодушевлённый объект способным к самовоспроизведению, понадобилось в среднем около 150 мелких правок в коде. Учитывая колоссальное количество возможных комбинаций в реальном мире, вероятность наткнуться на ложную биосигнатуру остаётся крайне высокой.

Противоречивые данные

При проверке фактов по нескольким источникам обнаружено расхождение в подаче результатов. РБК-Украина, ссылаясь на препринт arXiv, точно описывает эксперимент как модификацию программного кода цифрового организма в среде Avida. В то же время издание pravda.ru в заголовке и лиде формулирует вывод иначе: «алгоритмы ИИ приняли обычные камни за признаки внеземной жизни». Формулировка про «камни» является журналистской метафорой и не отражает методологию исследования, в котором речь шла исключительно о цифровых последовательностях команд, а не о физических объектах. Суть вывода — уязвимость ИИ к ложным паттернам — в обоих источниках совпадает, однако степень точности описания эксперимента различается.

Угроза для космических миссий

Профессор микробиологии, молекулярной генетики, физики и астрономии Кристоф Адами, один из авторов работы, подчёркивает: «Искусственный интеллект имеет ахиллесову пятку. Он может увидеть паттерн и совершенно неправильно его классифицировать». Обнаруженная уязвимость создаёт прямые риски для будущих исследований NASA и других космических агентств, которые планируют оснащать марсоходы и зонды, направляемые к спутникам Юпитера и Сатурна, автономными ИИ-сенсорами. Если аппарат на Марсе сделает ошибочный вывод об обнаружении жизни, проверить эти данные до возвращения образцов на Землю будет невозможно — сигнал из Солнечной системы занимает месяцы, а физическая доставка проб требует лет.

Проблема шире астробиологии

Слабость распознавания паттернов, выявленная в эксперименте, не ограничивается космосом. Адами указывает, что аналогичная уязвимость затрагивает все сферы, где ИИ внедряется без надлежащего контроля: медицинские сканеры, системы видеонаблюдения, автопилоты в автомобилях. В каждом из этих случаев ложноположительный результат может привести к ошибочному диагнозу, ложному тревожному сигналу или аварийной ситуации. При этом, по словам профессора, это не означает, что использовать подобные методы бесполезно: «Вам нужен независимый способ проверки работы ИИ. В цепи принятия решений обязательно должен оставаться человек». Таким образом, исследование не отменяет перспективу применения нейросетей в астробиологии и смежных областях, но устанавливает жёсткое требование: автономный алгоритм не должен быть единственным арбитром в критических решениях.