Штучний інтелект все активніше освоює задачу розпізнавання людських емоцій за мімікою, інтонацією голосу та фізіологічними сигналами. Однак, за словами дослідниці Лейденського університету Олександри Прежан, саме момент, коли такі системи стануть практично безпомилковими, може обернутися серйозним ризиком для суспільства. Про це повідомляє РБК-Україна зі посиланням на свіже дисертаційне дослідження вченої, опубліковане на офіційному сайті Лейденського університету. Прежан не обмежилася теоретичними міркуваннями: щоб оцінити наслідки впровадження вдосконалених технологій розпізнавання емоцій (ERT — Emotion Recognition Technology), вона змоделювала низку сценаріїв майбутнього, в яких алгоритмічний «вердикт» про внутрішній стан людини починає визначати її професійну та соціальну долю.
Сценарій хірурга: коли особистий розлучення стає «професійним ризиком»
Один із найнаочніших прикладів, запропонованих Прежан, стосується хірурга, який приходить до клініки перед найскладнішою операцією. Система ERT фіксує його емоційну нестабільність, і керівництво лікарні звільняє лікаря від роботи. При цьому причина тривоги алгоритму не мала жодного стосунку до його професійних компетенцій: хірург переживав важке розлучення і хвилювався за дитину. Попри те що лікар свідомо залишив особисті проблеми за межами робочого простору, технологія оцінила його стан як загрозу виконанню службових обов'язків. В результаті людина виявляється змушена розкривати й виправдовувати перед роботодавцем таємниці власного життя, адже система вже винесла свій вердикт, і тепер його потрібно «спростувати» документально чи емоційно.
Знищення межі між приватним і професійним життям
За життя кожна людина виконує безліч соціальних ролей: хірурга, батька або матері, партнера, друга, сусіда. Зазвичай саме ми вирішуємо, які межі і які шари свого внутрішнього світу відкривати в тій чи іншій ситуації. Втрата конфіденційності в умовах безпомилкового ERT означає, що приховати внутрішні переживання стає неможливо, і межа між приватним і професійним життям остаточно руйнується. Людина позбавляється права на «емоційну паузу», на право не пояснювати, чому вона сьогодні сумує чи роздратована, — право, яке сьогодні є негласною, але фундаментальною основою соціальної взаємодії.
Зміна ритуалів спілкування та зміщення орієнтирів довіри
Прежан вказує на ще один тривожний зсув: публічне виступлення чи вибачення посадової особи після трагедії можуть оцінюватися суспільством не за змістом слів і вчинків, а за «непідкупністю» вираженого смутку за версією ШІ. При цьому лікарі, поліцейські чи політики часто змушені стримувати емоції заради самозахисту в межах професійної етики, що не робить їхню професійну обов'язок менш щирим. Замість віри словам і вчинкам людей суспільство може почати орієнтуватися виключно на те, що про їхньому стані «повідомляє» технологія. Це зміщення орієнтирів, за словами вченої, підриває саму основу міжособистісної довіри, яка будувалася на здатності людини самій обирати, що і коли показувати оточуючим.
Поточне регулювання та довгострокова перспектива
Сьогодні Європейський акт про ШІ (EU AI Act) уже обмежує використання технологій розпізнавання емоцій, однак переважно через їхню низьку точність на даному етапі. Дослідження Прежан спрямоване на іншу, довгострокову перспективу: на момент, коли алгоритми стануть безпомилковими. У цій ситуації суспільству знадобляться сильніші моральні та правові аргументи для обмеження застосування ERT, оскільки аргумент «технологія помиляється» перестане працювати. Вчена підкреслює, що захист емоційної конфіденційності — це не лише захист інформації в узятому сенсі. Це збереження соціального простору, в якому людина сама вирішує, як позиціонувати себе і будувати стосунки з іншими людьми.
Не лише загроза: позитивний потенціал ERT
Важливо зазначити, що технології розпізнавання емоцій не є виключно негативним явищем. Прежан визнає, що ERT можуть допомогти у ранній діагностиці неврологічних розладів, а також сприяти людям, які відчувають труднощі з розпізнаванням власних емоцій — наприклад, при деяких формах аутизму чи алекситимії. Таким чином, дискусія, яку виносить дисертація, не зводиться до гасла «заборонити все», а стосується пошуку балансу: де проходить межа між корисним діагностичним інструментом і тотальним емоційним наглядом, який позбавляє людину права на внутрішню приватність.
