Вже через рік алгоритми можуть здійснити відкриття, гідне Нобелівської премії. Такий прогноз озвучив Джек Кларк, співзасновник компанії Anthropic, відомої своїми моделями Claude. Однак за цим оптимістичним прогнозом ховається тривожний сигнал: темпи розвитку штучного інтелекту вийшли з-під контролю, і людству загрожує зіткнення з непередбачуваними наслідками.

Технологічна гонка без правил

У лекції в Оксфордському університеті Кларк не вдався до евфемізмів. Він прямо заявив, що існують сценарії, за яких ШІ може призвести до загибелі всього населення Землі. Ризик не дорівнює нулю, і ігнорувати його не можна. Проблема ускладнюється тим, що розвиток технологій підтримується глобальною конкуренцією. Геополітичні амбіції та комерційні інтереси змушують держави та корпорації відсунути питання безпеки на другий план, прагнучи випередити суперників.

Парадокс безпеки

Кларк визнає, що сповільнити цей біг практично неможливо. Багато гравців на ринку роблять зупинку малоймовірною, навіть якщо це необхідно для виживання виду. Ситуація нагадує пандемію COVID-19: людство виявилося не готовим до швидкості поширення загрози. На думку експерта, багато хто досі перебуває в стадії заперечення, не усвідомлюючи, що ШІ незабаром перевершить сукупний інтелект усіх людей разом узятих.

Когнітивна атрофія та майбутнє мислення

Небезпеки пов'язані не лише з фізичним вимиранням, а й із деградацією людського інтелекту. Професор Едвард Харкорт, директор Інституту етики ШІ, попереджає про ризик «когнітивної атрофії». Широке делегування завдань алгоритмам може призвести до втрати аналітичних здібностей та навичок судження. У відповідь на це експерти пропонують розвивати «сократівський ШІ» — системи, які не просто дають відповіді, а стимулюють критичне мислення користувачів.

Економіка проти етики

Критики великих гравців, таких як Anthropic, OpenAI та Google, вказують на небезпеку створення «єдиної точки відмови» в глобальній інфраструктурі. Залежність від кількох домінуючих моделей робить світ вразливим. Джек Кларк, чию компанію заснували дослідники, які залишили OpenAI через суперечки щодо безпеки, наполягає: навіть обережні прогнози вказують на фундаментальну зміну економіки та суспільства. Наближається розділення між діяльністю людини та автоматизованими системами, і від того, як ми підготуємося до цього переходу, залежить наше майбутнє.