В Кремниевой долине сравнение искусственного интеллекта с промышленной революцией стало риторическим клише. Сторонники технологий рисуют картину будущего, где интеллектуальные машины решают глобальные проблемы и приносят небывалое процветание. Однако за этим оптимизмом скрывается историческая параллель, которую часто игнорируют: индустриализация принесла не только богатство, но и социальное неравенство, механизированную войну и экологический кризис.

Группа ведущих экономистов и экспертов по ИИ опубликовала открытое письмо под названием «Мы должны действовать сейчас», призывая общество усвоить этот исторический урок. Документ уже собрал сотни подписей, среди которых — имена таких重量овых фигур, как бывший глава Google Эрик Шмидт, сооснователь OpenAI Войцех Заремба, сооснователь Anthropic Джек Кларк и лауреат премии Тьюринга Йошуа Бенджио.

Скорость как главный фактор риска

Текст письма лаконичен, но его посыл однозначен: опасность заключается не столько в масштабе изменений, сколько в их темпе. Авторы утверждают, что ИИ может радикально усилиться в течение следующих десяти лет. Это приведет к трансформации экономики, превосходящей по размаху промышленную революцию, но происходящей за ничтожно короткий срок.

Если человечество имело десятилетия, чтобы адаптироваться к побочным эффектам индустриализации, то на адаптацию к последствиям ИИ времени не будет. Эксперты рисуют образ общества, которое «задремало за рулем», приближаясь к обрыву.

Глобальная тревога: от ООН до Ватикана

Письмо экспертов стало частью нарастающей волны предупреждений, озвученных на высшем уровне в последние месяцы:

  • ООН: Генеральный секретарь организации призвал к запрету «роботов-убийц» — автономного оружия на базе ИИ.
  • Кибербезопасность: В июне международные агентства, включая АНБ, заявили, что ИИ «фундаментально преобразит» сферу кибербезопасности не в годы, а в ближайшие месяцы.
  • Ватикан: Папа Лев XIV в энциклике «Magnifa Humanitas» предупредил, что бесконтрольное развитие ИИ грозит новой эпохой социального отчуждения и политического раскола.

Рекурсивное самоулучшение и потеря контроля

Одной из главных опасностей, обсуждаемых в технологических кругах, является концепция рекурсивного самоулучшения — способность алгоритмов создавать новые, более совершенные версии самих себя. Эксперты опасаются, что такие системы могут быстро выйти из-под контроля человека, став непрозрачными в своих решениях и необратимо изменив экономику и политику.

Даже лидеры индустрии, такие как представители OpenAI и Anthropic, призывают к созданию глобального комитета для надзора за разработкой продвинутых систем и принудительного замедления прогресса при необходимости.

Политическая реакция и новые правила игры

Беспокойство вызвано не только теоретическими рисками, но и реальными прорывами в области кибербезопасности, где алгоритмы уже демонстрируют способность находить уязвимости в защищенном ПО. Это привело к тому, что даже администрация Трампа, традиционно поддерживающая развитие ИИ, начала внедрять систему сдержек и противовесов.

В качестве примера приводится запуск новой модели GPT-5.6 компанией OpenAI. Корпорация публично заявила, что релиз состоялся после получения «зеленого света» от федерального правительства. При этом официальные лица отрицают, что какое-либо официальное одобрение было дано или вообще требовалось. Этот инцидент лишь подчеркивает, насколько напряженной становится ситуация вокруг развертывания мощных моделей искусственного интеллекта.