Открытие внеземной жизни — одна из самых амбициозных целей современной науки. Однако, как выяснили исследователи из Университета штата Мичиган, главный инструмент будущего поиска может оказаться ненадежным. Ученые обнаружили критическую уязвимость в алгоритмах искусственного интеллекта: нейросети склонны ошибочно классифицировать неодушевленные объекты как живые организмы.
Эта проблема ставит под угрозу достоверность будущих космических миссий. Если роботизированные марсоходы или орбитальные зонды будут полагаться на текущие версии ИИ, человечество рискует потратить годы и миллиарды долларов на изучение «мертвых» камней, приняв их за следы биологии.
Проблема «внераспределительных» данных
Главная сложность заключается в том, как современные модели обучаются. Нейросети работают эффективно только с данными, похожими на те, что использовались при их тренировке. Однако космос полон неизвестного. Ученые называют такие объекты «внераспределительными» образцами — они кардинально отличаются от земной биологии, на которой обучались алгоритмы.
Кристоф Адами, вычислительный биолог и один из авторов исследования, подчеркивает, что ИИ очень легко ввести в заблуждение. В условиях поиска жизни на других планетах, где биология может быть устроена совершенно иначе, чем на Земле, космические аппараты вынуждены полагаться на универсальные маркеры. Именно здесь кроется риск фатальной ошибки.
Эксперимент с цифровыми организмами
Чтобы проверить надежность алгоритмов, Кристоф Адами и его коллега Анкит Гупта провели масштабное тестирование. В качестве полигона они использовали платформу Avida — компьютерную программу, моделирующую эволюцию цифровых организмов. В этой среде программный код способен мутировать, самовоспроизводиться и конкурировать за процессорное время, имитируя фундаментальные свойства жизни.
Эксперимент длился три месяца и потребовал колоссальных вычислительных мощностей: для его проведения было задействовано 1000 параллельных компьютеров. Целью было проверить, сможет ли ИИ отличить «живой» код от «мертвого» при минимальных изменениях.
Успешный обман алгоритма
Результаты эксперимента оказались тревожными. В ходе точечных корректировок кода ученым удалось полностью обмануть искусственный интеллект. Алгоритм, предназначенный для поиска признаков жизни, признал модифицированную неодушевленную программу полноценным живым организмом.
Этот эксперимент наглядно демонстрирует, что текущие модели не обладают достаточной надежностью для автономной работы в экстремальных условиях космоса. Ошибочная идентификация биомаркеров может привести к ложноположительным результатам.
Последствия таких ошибок выходят далеко за рамки научного интереса. Ложная тревога чревата бесполезным расходованием ресурсов и времени на детальный анализ объектов, которые на самом деле не имеют никакого отношения к внеземной жизни. Перед запуском новых миссий инженерам предстоит найти способ сделать ИИ более устойчивым к таким манипуляциям.
