Епоха необмеженого оптимізму в сфері штучного інтелекту може зачекати. Відомий комп'ютерний вчений Пітер Деннінг у своїй новій книзі «Turing's Mistake: Escaping the Yoke of Unintelligent Machine» (Помилка Тюрінга: Позбутися ярма нерозумної машини) висунув радикальний тезис: людство зациклилося на недосяжній меті. На думку дослідника, спроба створити «безтілесний розум» приречена на провал через фундаментальні обмеження алгоритмів.

Деннінг стверджує, що сучасна розробка ШІ рухається в глухий кут, намагаючись оцифрувати те, що за своєю природою не піддається кодуванню. Ключовим аргументом вченого стає концепція неявного знання (tacit knowledge). Це величезний пласт людського досвіду, який неможливо описати словами, записати в біти або передати через символи.

П'ять сфер, недоступних для машин

Вчений виділяє п'ять основних сфер людського буття, які залишаються за межами можливостей машинного навчання. Практика останніх десятиліть лише підтверджує цю теорію. Яскравим прикладом слугує амбітний проєкт Cyc, запущений Дугласом Ленатом ще у 1980-х роках.

Метою проєкту було створення повної бази фактів здорового глузду. За 40 років безперервної роботи над нею було накопичено 25 мільйонів записів. Незважаючи на колосальний обсяг даних, експертні системи так і не здобули розум. Це доводить, що просте накопичення фактів не дорівнює розумінню світу.

Проблема фізичного досвіду

Обмеження ШІ проявляються і в області практичних навичок. Деннінг наводить приклад видатного скрипаля. Музикант може виконувати геніальну музику, але він фізично не здатний передати учневі мовою слів відчуття свого майстерності. Це знання живе в тілі та м'язах.

Навіть якщо робот зможе з хірургічною точністю скопіювати рухи музиканта, він залишиться позбавленим тіла, здатного відчути красу гри або емоційну реакцію слухачів. Для машини це лише набір координат, позбавлений сенсу.

Сліпота до контексту та культури

Наступним непереможним бар'єром є контекст ситуації та культурний вимір. Саме вони визначають, чи є фраза сарказмом, доброю жартівкою чи проявом агресії. Контекст завжди будується на нескінченному ланцюжку попередніх розмов та життєвого досвіду.

Великі мовні моделі, навчаючись на гігантських масивах даних, лише вивчають статистичні зв'язки між словами. Вони залишаються «сліпими» до справжнього змісту та культурного бекграунду, не розуміючи суті того, що генерують.

Загроза «машинного розуму»

Пітер Деннінг переконаний, що замість створення інструменту, дружнього до людини, масштабування нейросітей веде до формування зовсім чужого та небезпечного машинного розуму. Агенти машинних мереж починають виробляти власне «машинне неявне знання».

Виникає ситуація взаємної глухоти: люди не можуть прочитати логіку рішень ШІ, а машини не здатні зрозуміти людські мотиви. Надійне узгодження цілей штучного інтелекту з намірами людей стає неможливим.

Головна загроза, на думку дослідника, полягає не в захопленні світу гіпотетичним «суперрозумом», як часто показують у фантастиці. Реальна небезпека криється в хаосі, який можуть створити автономні низькоінтелектуальні машини, що не мають ні найменшого уявлення про людські цінності та емпатію.