Сучасні технології штучного інтелекту здатні не просто генерувати контент, а й активно втручатися в когнітивні процеси людини, змінюючи її спогади про минуле. Згідно з останніми даними дослідників з Массачусетського технологічного інституту (MIT), згенеровані нейромережами зображення і тексти формують хибні спогади, змушуючи людей впевнено помилятися в деталях власних переживань.

Експерименти зі спотворенням пам'яті через нейромережі

У ході наукових експериментів під керівництвом Патті Маеса група учасників вивчала справжні фотознімки. Пізніше частині добровольців показали змінені алгоритмами версії зображень, тоді як решті продемонстрували оригінали. Тестування пам'яті показало, що особи, які зіткнулися з підробленим візуальним контентом, не лише припускалися більшої кількості помилок, а й демонстрували повну впевненість у справжності своїх хибних спогадів.

Експерти зазначають, що подібні технології здатні укорінювати у свідомості цілі фальшиві події. Це безпосередньо впливає на суспільні настрої, включаючи політичні вподобання та рівень електоральної активності громадян. Проблема ускладнюється схильністю алгоритмів до галюцинацій, що підриває основи об'єктивної інформації навіть за відсутності злого умислу з боку розробників.

Проблема контролю та ефект довіри до алгоритмів

Для мінімізації ризиків державні відомства, фінансові організації, медичні заклади та оборонні структури намагаються впровадити концепцію «людини в ланцюжку». Цей підхід передбачає обов'язкову перевірку рішень штучного інтелекту профільними фахівцями перед прийняттям критично важливих заходів. Проте практика показує, що люди часто не помічають системних помилок.

Коли згенеровані алгоритмом дані вступають у конфлікт з експертними знаннями, людська пам'ять зазнає деформації, а власне сприйняття спотворюється на користь машини. Здатність пересічних користувачів відрізняти справжній контент від фальшивки зараз перебуває на рівні випадкового вгадування, водночас розробники прагнуть впровадити повністю автономних агентів.

Реальні наслідки надмірної автономії систем

Передача критичних повноважень автоматизованим системам вже призводить до тяжких інцидентів з людськими жертвами. Так, розслідування Міністерства оборони США зафіксувало авіаудар по школі в Ірані, що спричинив загибель понад 150 людей, який стався через критичну довіру військовим алгоритмам компанії Palantir. Система видала цивільний об'єкт за військову ціль на базі застарілих даних, а оператори не поставили під сумнів цю рекомендацію.

У ситуації, що склалася, наукова спільнота наполягає на перегляді підходів до безпеки та контролю над автономними технологіями. Без створення надійних бар'єрів і підвищення цифрової грамотності населення ризик масштабних когнітивних і практичних спотворень тільки зростатиме, зачіпаючи всі сфери життя суспільства.