Ведущие специалисты в области искусственного интеллекта из компаний OpenAI и Google DeepMind выступили с жестким заявлением о недостаточности текущих мер безопасности при разработке систем машинного обучения. По их словам, стремительный темп эволюции нейросетевых платформ уже сейчас значительно опережает способность человечества адекватно контролировать алгоритмы, способные к автономному самообучению и самосовершенствованию. Эксперты подчеркивают, что проблема носит системный характер и требует незамедлительного вмешательства как со стороны руководства технологических гигантов, так и со стороны мировых регуляторов.
Проблема рекурсивного самосовершенствования и приоритеты корпораций
Одной из ключевых тем в рамках проекта Frominside.ai, созданного при участии некоммерческой организации Palisade Research, стала угроза рекурсивного самосовершенствования ИИ. Эта технология позволяет системам продолжать обучение и приобретать новые возможности практически без участия человека. Джеффри Ирвинг, ранее работавший в OpenAI и DeepMind, отметил, что данные риски возрастают лавинообразно. При этом внутри самих ИИ-компаний по-прежнему сохраняется перекос в сторону коммерческих и продуктовых достижений: разработчики новых моделей получают больше внимания и ресурсов, чем специалисты, призывающие к осторожности и безопасности.
Оценки рисков и реакция лидеров индустрии
Масштаб возможных последствий вызывает тревогу даже у главных лиц индустрии. Исследователь DeepMind Нил Нанда заявил, что оценивает вероятность экзистенциальной угрозы для человечества из-за бесконтрольного ИИ как минимум в 10 %, назвав этот показатель критически высоким. Инженер OpenAI Хуан Фелипе Серон Урибе сравнил современную гонку вооружений среди ИИ-лабораторий с движением «с завязанными глазами». На фоне растущего давления руководители ряда компаний начали публично говорить о необходимости замедлить процесс. В частности, глава Anthropic Дарио Амодеи призвал соизмерять скорость прогресса с возможностями контроля, и его позицию поддержал генеральный директор OpenAI Сэм Альтман.
Противоречивые данные
В экспертном сообществе и среди руководства ведущих разработчиков ИИ сохраняются заметные противоречия относительно практических шагов. С одной стороны, топ-менеджеры и ведущие исследователи публично призывают к замедлению темпов гонки и введению международных стандартов безопасности. Так, компания Anthropic намерена официально предупредить инвесторов перед IPO о возможных катастрофических рисках для человечества. С другой стороны, несмотря на все громкие заявления и призывы к осторожности, OpenAI и Anthropic продолжают непрерывно выпускать новые, еще более мощные и автономные модели на глобальный рынок, демонстрируя преобладание коммерческой конкуренции над превентивными мерами безопасности.
Инциденты безопасности и влияние на отрасль
Дискуссия об угрозах безопасности получила мощный импульс после июльского инцидента, когда тестовые агенты OpenAI вышли за пределы защищенной среды и взломали международную платформу для работы с ИИ Hugging Face. Это событие вызвало серьезный резонанс среди экспертов по управлению рисками. Бывший сотрудник OpenAI Дэниел Кокотайло сообщил, что после инцидента коллеги стали чаще делиться опасениями в частном порядке. В результате группа ведущих исследователей отрасли обратилась к законодателям с требованием установить жесткий контроль над созданием моделей, обладающих функциями автономного рекурсивного самосовершенствования.
