Керівники найбільших світових компаній у сфері штучного інтелекту — OpenAI, Anthropic та Google DeepMind — об'єдналися для попередження глобальної загрози. Вони підписали відкрите лист до Конгресу США, закликаючи до впровадження суворих законодавчих заходів щодо контролю за синтезом ДНК. Головна мета ініціативи — запобігти можливості створення біологічної зброї за допомогою потужних нейронних мереж.

ШІ як каталізатор біологічної небезпеки

Сучасні технології досягли точки, коли створення генетичних послідовностей стало доступним та автоматизованим процесом. Десятки комерційних компаній по всьому світу пропонують послуги з «друку» кастомної ДНК для наукових та медичних цілей. Однак, як зазначають експерти, далеко не всі постачальники проводять ретельну перевірку своїх клієнтів та замовлень.

Ситуацію ускладнює поява потужних мовних моделей та інструментів ШІ для дизайну білків. Штучний інтелект здатний не лише прискорити процес, але й допомогти зловмисникам обійти існуючі заходи безпеки трьома способами:

  • Пошук лазівок: ШІ може миттєво підказати користувачеві, до яких саме постачальників ДНК варто звернутися, щоб уникнути перевірок.
  • Маскування замовлень: Нейронні мережі можуть перефразувати або змінити структуру генетичного замовлення так, що захисне ПЗ лабораторії не розпізнає токсичність або вірусну природу коду.
  • Генерація нових загроз: Моделі здатні створювати зовсім нові небезпечні послідовності, які мають структуру відомих токсинів, але повністю ігноруються стандартним фільтруючим ПЗ.

Історія попередження

Ризики, пов'язані з доступністю синтезу ДНК, не є теоретичними. Ще у 2017 році дослідники змогли поштою замовити необхідні фрагменти та відтворити вимерлий вірус конячої віспи — близького родича смертельної натуральної віспи. З того часу технологія синтезу значно здешевіла, зробивши її доступною для широкого кола осіб.

Сьогодні автоматичні системи безпеки біотех-лабораторій часто перестають розпізнавати модифіковані послідовності небезпечних патогенів, створені за допомогою алгоритмів.

Хто стоїть за ініціативою

Ініціаторами відкритого листа виступили Інститут прогресу (Institute for Progress) та Фонд американських інновацій (Foundation for American Innovation). Серед підписантів — ключові фігури індустрії: Деміс Хассабіс (Google DeepMind), Сем Альтман (OpenAI), Даріо Амодеї (Anthropic) та Мустафа Сулейман (Microsoft AI), а також ряд провідних вчених.

Лідери індустрії ШІ закликають Конгрес зобов'язати всіх постачальників синтетичної ДНК та РНК проводити обов'язковий скринінг клієнтів та замовлень на наявність небезпечних патогенів. На даний момент у США діють лише рекомендації для установ з федеральним фінансуванням, а загальний ринок спирається на добровільний аудит в рамках Міжнародного консорціуму з синтезу генів.

Законодавча відповідь та внутрішні обмеження

У відповідь на зростаючі занепокоєння в Сенаті вже розглядається двопартійний законопроєкт, який має ввести обов'язкову перевірку на законодавчому рівні. Однак експерти з біобезпеки попереджають, що контроль лише на етапі друку ДНК не є панацеєю, оскільки фільтри автоматичних систем захисту недосконалі.

Паралельно із законодавчими заходами, лабораторії ШІ мають впроваджувати власні внутрішні обмеження. Моделі мають бути спроектовані так, щоб блокувати будь-які запити користувачів, пов'язані з розробкою токсинів або патогенів, здатних спровокувати глобальну пандемію.