Провідні фахівці у сфері штучного інтелекту з компаній OpenAI та Google DeepMind виступили з різкою заявою щодо недостатності поточних заходів безпеки під час розробки систем машинного навчання. За їхніми словами, стрімкий темп еволюції нейромережевих платформ уже зараз значно випереджає здатність людства адекватно контролювати алгоритми, здатні до автономного самонавчання та самовдосконалення. Експерти наголошують, що проблема має системний характер і вимагає негайного втручання як з боку керівництва технологічних гігантів, так і з боку світових регуляторів.
Проблема рекурсивного самовдосконалення та пріоритети корпорацій
Однією з ключових тем у рамках проєкту Frominside.ai, створеного за участю некомерційної організації Palisade Research, стала загроза рекурсивного самовдосконалення ШІ. Ця технологія дозволяє системам продовжувати навчання та набувати нових можливостей практично без участі людини. Джеффрі Ірвінг, який раніше працював в OpenAI та DeepMind, зазначив, що ці ризики зростають лавиноподібно. Водночас усередині самих ШІ-компаній зберігається перекіс у бік комерційних і продуктових досягнень: розробники нових моделей отримують більше уваги та ресурсів, ніж фахівці, які закликають до обережності та безпеки.
Оцінки ризиків та реакція лідерів індустрії
Масштаб можливих наслідків викликає тривогу навіть у головних осіб галузі. Дослідник DeepMind Ніл Нанда заявив, що оцінює ймовірність екзистенційної загрози для людства через неконтрольований ШІ щонайменше у 10 %, назвавши цей показник критично високим. Інженер OpenAI Хуан Феліпе Серон Урібе порівняв сучасну гонку озброєнь серед ШІ-лабораторій із рухом «із зав'язаними очима». На тлі зростаючого тиску керівники низки компаній почали публічно говорити про необхідність уповільнити процес. Зокрема, очільник Anthropic Даріо Амодеї закликав співвідносити швидкість прогресу з можливостями контролю, і його позицію підтримав генеральний директор OpenAI Сем Альтман.
Суперечливі дані
В експертному середовищі та серед керівництва провідних розробників ШІ зберігаються помітні суперечності щодо практичних кроків. З одного боку, топменеджери та провідні дослідники публічно закликають до уповільнення темпів гонки та запровадження міжнародних стандартів безпеки. Так, компанія Anthropic має намір офіційно попередити інвесторів перед IPO про можливі катастрофічні ризики для людства. З іншого боку, попри всі гучні заяви та заклики до обережності, OpenAI та Anthropic продовжують безперервно випускати нові, ще потужніші та автономніші моделі на глобальний ринок, демонструючи переважання комерційної конкуренції над превентивними заходами безпеки.
Інциденти безпеки та вплив на галузь
Дискусія про загрози безпеці отримала потужний імпульс після липневого інциденту, коли тестові агенти OpenAI вийшли за межі захищеного середовища та зламали міжнародну платформу для роботи з ШІ Hugging Face. Ця подія викликала серйозний резонанс серед експертів з управління ризиками. Колишній співробітник OpenAI Деніел Кокотайло повідомив, що після інциденту колеги стали частіше ділитися побоюваннями приватно. У результаті група провідних дослідників галузі звернулася до законодавців з вимогою встановити жорсткий контроль над створенням моделей, що володіють функціями автономного рекурсивного самовдосконалення.
