Всего через год алгоритмы могут совершить открытие, достойное Нобелевской премии. Такой прогноз озвучил Джек Кларк, соучредитель компании Anthropic, известной своими моделями Claude. Однако за этим оптимистичным прогнозом скрывается тревожный сигнал: темпы развития искусственного интеллекта вышли из-под контроля, и человечеству грозит столкновение с непредсказуемыми последствиями.
Технологическая гонка без правил
В лекции в Оксфордском университете Кларк не стал прибегать к эвфемизмам. Он прямо заявил, что существуют сценарии, при которых ИИ может привести к гибели всего населения Земли. Риск не равен нулю, и игнорировать его нельзя. Проблема усугубляется тем, что развитие технологий поддерживается глобальной конкуренцией. Геополитические амбиции и коммерческие интересы заставляют государства и корпорации отодвигать вопросы безопасности на второй план, стремясь опередить соперников.
Парадокс безопасности
Кларк признает, что замедлить этот бег практически невозможно. Множество игроков на рынке делают остановку маловероятной, даже если это необходимо для выживания вида. Ситуация напоминает пандемию COVID-19: человечество оказалось не готово к скорости распространения угрозы. По мнению эксперта, многие до сих пор пребывают в стадии отрицания, не осознавая, что ИИ вскоре превзойдет совокупный интеллект всех людей вместе взятых.
Когнитивная атрофия и будущее мышления
Опасности связаны не только с физическим вымиранием, но и с деградацией человеческого интеллекта. Профессор Эдвард Харкорт, директор Института этики ИИ, предупреждает о риске «когнитивной атрофии». Широкое делегирование задач алгоритмам может привести к потере аналитических способностей и навыков суждения. В ответ на это эксперты предлагают развивать «сократовский ИИ» — системы, которые не просто дают ответы, а стимулируют критическое мышление пользователей.
Экономика против этики
Критики крупных игроков, таких как Anthropic, OpenAI и Google, указывают на опасность создания «единой точки отказа» в глобальной инфраструктуре. Зависимость от нескольких доминирующих моделей делает мир уязвимым. Джек Кларк, чья компания была основана исследователями, покинувшими OpenAI из-за споров о безопасности, настаивает: даже осторожные прогнозы указывают на фундаментальное изменение экономики и общества. Грядет разделение между деятельностью человека и автоматизированных систем, и от того, как мы подготовимся к этому переходу, зависит наше будущее.