Эпоха безудержного оптимизма в сфере искусственного интеллекта может подождать. Известный компьютерный ученый Питер Дэннинг в своей новой книге «Turing's Mistake: Escaping the Yoke of Unintelligent Machine» (Ошибка Тюринга: Сбросить ярмо неразумной машины) выдвигает радикальный тезис: человечество зациклилось на недостижимой цели. По мнению исследователя, попытка создать «бесплотный ум» обречена на провал из-за фундаментальных ограничений алгоритмов.

Дэннинг утверждает, что современная разработка ИИ движется в тупик, пытаясь оцифровать то, что по своей природе не поддается кодированию. Ключевым аргументом ученого становится концепция неявного знания (tacit knowledge). Это огромный пласт человеческого опыта, который невозможно описать словами, записать в биты или передать через символы.

Пять сфер, недоступных для машин

Ученый выделяет пять основных сфер человеческого бытия, которые остаются за гранью возможностей машинного обучения. Практика последних десятилетий лишь подтверждает эту теорию. Ярким примером служит амбициозный проект Cyc, запущенный Дугласом Ленатом еще в 1980-х годах.

Целью проекта было создание полной базы фактов здравого смысла. За 40 лет непрерывной работы над ней было накоплено 25 миллионов записей. Несмотря на колоссальный объем данных, экспертные системы так и не обрели разум. Это доказывает, что простое накопление фактов не равно пониманию мира.

Проблема физического опыта

Ограничения ИИ проявляются и в области практических навыков. Дэннинг приводит пример выдающегося скрипача. Музыкант может исполнять гениальную музыку, но он физически не способен передать ученику на языке слов ощущение своего мастерства. Это знание живет в теле и мышцах.

Даже если робот сможет с хирургической точностью скопировать движения музыканта, он останется лишенным тела, способного почувствовать красоту игры или эмоциональную реакцию слушателей. Для машины это лишь набор координат, лишенный смысла.

Слепота к контексту и культуре

Следующим непреодолимым барьером является контекст ситуации и культурное измерение. Именно они определяют, является ли фраза сарказмом, доброй шуткой или проявлением агрессии. Контекст всегда строится на бесконечной цепочке предыдущих разговоров и жизненного опыта.

Большие языковые модели, обучаясь на гигантских массивах данных, лишь изучают статистические связи между словами. Они остаются «слепыми» к подлинному содержанию и культурному бэкграунду, не понимая сути того, что генерируют.

Угроза «машинного разума»

Питер Дэннинг убежден, что вместо создания инструмента, дружественного человеку, масштабирование нейросетей ведет к формированию совершенно чужого и опасного машинного разума. Агентные сети машин начинают вырабатывать собственное «машинное неявное знание».

Возникает ситуация взаимной глухоты: люди не могут прочесть логику решений ИИ, а машины не способны понять человеческие мотивы. Надежное согласование целей искусственного интеллекта с намерениями людей становится невозможным.

Главная угроза, по мнению исследователя, заключается не в захвате мира гипотетическим «сверхразумом», как часто показывают в фантастике. Реальная опасность кроется в хаосе, который могут создать автономные низкоинтеллектуальные машины, не имеющие ни малейшего представления о человеческих ценностях и эмпатии.