Алгоритмічна галюцинація: як ШІ перетворив жарт на «факт»

У серпні 2026 року стався інцидент, який яскраво ілюструє ризики неконтрольованого поширення інформації генеративними моделями. Алгоритм AI Overview у пошуковій системі Google почав видавати користувачам недостовірні дані про дорожні камери спостереження компанії Flock Safety. Штучний інтелект впевнено стверджував, що в кожній автономній камері розпізнавання автомобільних номерів міститься від 1 до 5 грамів золота, а також від 0,9 до 10,4 кілограмів міді. На основі цих даних вартість лише золота в одному пристрої була оцінена приблизно в $650.

Критична помилка полягала в тому, що ШІ не провів елементарну перевірку фізики процесу: заявлена маса міді в кілька кілограмів багаторазово перевищувала масу самого пристрою, яка становить всього 1,36 кг. Незважаючи на це очевидне суперечність, алгоритм продовжив поширювати інформацію, що призвело до реальних наслідків.

Хвиля вандалізму та контекст недовіри

Поширення хибної інформації про «золоті камери» не залишилося непоміченим. Користувачі, які повірили в можливість отримання легкого прибутку, почали вчиняти акти вандалізму щодо обладнання Flock Safety. Історія почалася на тлі зростаючих скандалів навколо системи спостереження. Раніше повідомлялося про зловживання, коли окремі співробітники правоохоронних органів використовували систему для стеження в особистих цілях. Суспільне незадоволення постійним контролем створило благодатний ґрунт для фейку, що заохочує знищення камер.

Хоча люди й раніше поширювали хибну інформацію (наприклад, у 2020 році вежі стільникового зв'язку підпалювали без допомоги ШІ), у цьому випадку алгоритм зіграв роль каталізатора, надавши абсурдній теорії вигляд технічного факту.

Реальність проти вигадки: що всередині камери

Після того як історія отримала широкий резонанс, Google був змушений коригувати роботу свого AI Overview. У оновлених результатах пошуку тепер міститься попередження: розповіді про грами вилучуваного золота та кілограми міді — це чийсь жарт і результат галюцинацій нейромережі. Реальний вміст дорогоцінних металів у подібних пристроях співставний з тим, що характерно для будь-якої компактної електроніки.

Золото дійсно присутнє в камерах, але лише у слідових кількостях — переважно у вигляді мікроскопічних покриттів контактів, роз'ємів та окремих елементів друкованих плат. Те саме стосується міді: вона використовується у провідниках та дорожках плат, однак її кількість мізерно мала і вимірюється мікрограмами, а не кілограмами.

Суперечливі дані

Існує розбіжність у оцінках масштабу наслідків. З одного боку, джерела підтверджують, що алгоритм Google дійсно видавав хибні дані про вміст золота та міді, що спровокувало вандалізм. З іншого боку, точна кількість постраждалих камер та загальний матеріальний збиток, завданий власникам обладнання в результаті цієї «золотої лихоманки», залишаються невідомими. Історія мовчить про конкретні цифри зруйнованого майна, фокусуючись на самому факті помилки ШІ.

Відповідальність алгоритмів у епоху генеративного контенту

Історія з «золотими камерами» стала черговим характерним прикладом повторення та поширення генеративним ШІ недостовірних фактів. Платформа не виконала елементарну перевірку правдоподібності даних, що призвело до реального збитку. Цей випадок ставить питання про те, хто повинен нести відповідальність за дії алгоритмів: розробники, користувачі чи самі машини. У той час як люди добре справляються з поширенням фейків і без підказок ШІ, масштабність та швидкість роботи нейромереж роблять подібні помилки особливо небезпечними.