У пошуках позаземного життя астробіологи десятиліттями спираються на пошук універсальних індикаторів: здатності біологічних систем кодувати інформацію та самовідтворюватися, подібно до ДНК. Саме ці властивості розглядаються як найімовірніші «біосигнатури», які можна виявити на Марсі, супутниках Юпітера чи Сатурна. Однак нове дослідження, опубліковане на сервері препринтів arXiv і прокоментоване РБК-Україна, показало, що штучний інтелект, навчений розпізнавати такі ознаки, можна з легкістю обманути — і він із впевненістю вкаже на життя там, де його немає.

Як влаштована «цифрова лабораторія»

Щоб перевірити, наскільки надійно нейронні мережі здатні відрізняти живий об'єкт від неживого, дослідники використали програму Avida — платформу, що генерує «цифрове життя» у вигляді програмного коду, здатного еволюціонувати, мутувати та копіювати себе у віртуальному середовищі. На десятках тисяч таких цифрових організмів вчені навчили нейронну мережу розпізнавати ознаки самовідтворення. Результат на етапі навчання виявився вражаючим: початкова точність розпізнавання досягла 99,97 відсотка. Схоже, алгоритм готовий до роботи в умовах, де людина фізично не може провести аналіз у реальному часі — наприклад, на борту марсохода.

150 правок і 100-відсотковий обман

Однак подальше тестування виявило критичну вразливість. Вчені взяли код організму, нездатного до розмноження, і внесли в нього лише окремі, точкові зміни — по суті, «шум» у послідовності команд. Незалежно від того, з якої початкової послідовності починали експеримент, дослідникам вдавалося обманути ШІ у 100 відсотках випадків, як зазначив аспірант кафедри комп'ютерних наук та інженерії Мічиганського державного університету (MSU) Анкіт Гупта. Для того щоб алгоритм помилково визнав неживий об'єкт здатним до самовідтворення, в середньому вистачило близько 150 дрібних правок у коді. Враховуючи колосальну кількість можливих комбінацій у реальному світі, ймовірність натрапити на хибну біосигнатуру залишається надзвичайно високою.

Протирічливі дані

Під час перевірки фактів за кількома джерелами виявлено розбіжність у поданні результатів. РБК-Україна, посилаючись на препринт arXiv, точно описує експеримент як модифікацію програмного коду цифрового організму в середовищі Avida. Водночас видання pravda.ru в заголовку та ліді формулює висновок інакше: «алгоритми ШІ прийняли звичайні камені за ознаки позаземного життя». Формулювання про «камні» є журналістською метафорою і не відображає методологію дослідження, в якому йшлося виключно про цифрові послідовності команд, а не про фізичні об'єкти. Суть висновку — вразливість ШІ до хибних патернів — у обох джерелах збігається, однак ступінь точності опису експерименту відрізняється.

Загроза для космічних місій

Професор мікробіології, молекулярної генетики, фізики та астрономії Крістоф Адамі, один із авторів роботи, наголошує: «Штучний інтелект має ахілесову п'ятку. Він може побачити патерн і зовсім неправильно його класифікувати». Виявлена вразливість створює прямі ризики для майбутніх досліджень NASA та інших космічних агентств, які планують оснащувати марсоходи та зонди, що направляються до супутників Юпітера та Сатурна, автономними ШІ-сенсорами. Якщо апарат на Марсі зробить помилковий висновок про виявлення життя, перевірити ці дані до повернення зразків на Землю буде неможливо — сигнал із Сонячної системи займає місяці, а фізична доставка проб потребує років.

Проблема ширша за астробіологію

Слабкість розпізнавання патернів, виявлена в експерименті, не обмежується космосом. Адамі зазначає, що аналогічна вразливість стосується всіх сфер, де ШІ впроваджується без належного контролю: медичні сканери, системи відеоспостереження, автопілоти в автомобілях. У кожному з цих випадків хибнопозитивний результат може призвести до помилкового діагнозу, хибного сигналу тривоги або аварійної ситуації. Водночас, за словами професора, це не означає, що використовувати подібні методи марно: «Вам потрібен незалежний спосіб перевірки роботи ШІ. У ланцюзі прийняття рішень обов'язково має залишатися людина». Таким чином, дослідження не скасовує перспективу застосування нейронних мереж в астробіології та суміжних галузях, але встановлює жорстку вимогу: автономний алгоритм не повинен бути єдиним арбітром у критичних рішеннях.