Відкриття позаземного життя — одна з найамбітніших цілей сучасної науки. Однак, як виявили дослідники з Мічиганського університету, головний інструмент майбутніх пошуків може виявитися ненадійним. Вчені виявили критичну вразливість у алгоритмах штучного інтелекту: нейронні мережі схильні помилково класифікувати неживі об'єкти як живі організми.
Ця проблема ставить під загрозу достовірність майбутніх космічних місій. Якщо роботизовані марсоходи або орбітальні зонди покладаються на поточні версії ШІ, людство ризикує витратити роки та мільярди доларів на вивчення «мертвих» каменів, прийнявши їх за сліди біології.
Проблема «нерозподілених» даних
Головна складність полягає в тому, як сучасні моделі навчаються. Нейронні мережі працюють ефективно лише з даними, схожими на ті, що використовувалися під час їхнього тренування. Однак космос повний невідомого. Вчені називають такі об'єкти «нерозподіленими» зразками — вони кардинально відрізняються від земної біології, на якій навчалися алгоритми.
Крістоф Адамі, обчислювальний біолог і один із авторів дослідження, підкреслює, що ШІ дуже легко ввести в оману. У умовах пошуку життя на інших планетах, де біологія може бути влаштована зовсім інакше, ніж на Землі, космічні апарати змушені покладатися на універсальні маркери. Саме тут криється ризик фатальної помилки.
Експеримент із цифровими організмами
Щоб перевірити надійність алгоритмів, Крістоф Адамі та його колега Анкіт Гупта провели масштабне тестування. Як полігон вони використали платформу Avida — комп'ютерну програму, що моделює еволюцію цифрових організмів. У цьому середовищі програмний код здатний мутувати, самовідтворюватися та конкурувати за процесорний час, імітуючи фундаментальні властивості життя.
Експеримент тривав три місяці і вимагав колосальних обчислювальних потужностей: для його проведення було залучено 1000 паралельних комп'ютерів. Метою було перевірити, чи зможе ШІ відрізнити «живий» код від «мертвого» при мінімальних змінах.
Успішна обманка алгоритму
Результати експерименту виявилися тривожними. У ході точкових коригувань коду вченим вдалося повністю обманути штучний інтелект. Алгоритм, призначений для пошуку ознак життя, визнав модифіковану неживу програму повноцінним живим організмом.
Цей експеримент наочно демонструє, що поточні моделі не мають достатньої надійності для автономної роботи в екстремальних умовах космосу. Помилкова ідентифікація біомаркерів може призвести до хибнопозитивних результатів.
Наслідки таких помилок виходять далеко за межі наукового інтересу. Хибна тривога загрожує марною витратою ресурсів і часу на детальний аналіз об'єктів, які насправді не мають жодного стосунку до позаземного життя. Перед запуском нових місій інженерам доведеться знайти спосіб зробити ШІ більш стійким до таких маніпуляцій.
