Алгоритмическая галлюцинация: как ИИ превратил шутку в «факт»
В августе 2026 года произошел инцидент, ярко иллюстрирующий риски неконтролируемого распространения информации генеративными моделями. Алгоритм AI Overview в поисковой системе Google начал выдавать пользователям недостоверные данные о дорожных камерах наблюдения компании Flock Safety. Искусственный интеллект с уверенностью утверждал, что в каждой автономной камере распознавания автомобильных номеров содержится от 1 до 5 граммов золота, а также от 0,9 до 10,4 килограммов меди. На основе этих данных стоимость только золота в одном устройстве была оценена примерно в $650.
Критическая ошибка заключалась в том, что ИИ не провел элементарную проверку физики процесса: заявленная масса меди в несколько килограммов многократно превышала массу самого устройства, которая составляет всего 1,36 кг. Несмотря на это очевидное противоречие, алгоритм продолжил распространять информацию, что привело к реальным последствиям.
Волна вандализма и контекст недоверия
Распространение ложной информации о «золотых камерах» не осталось незамеченным. Пользователи, поверившие в возможность получения легкой прибыли, начали совершать акты вандализма в отношении оборудования Flock Safety. История началась на фоне растущих скандалов вокруг системы наблюдения. Ранее сообщалось о злоупотреблениях, когда отдельные сотрудники правоохранительных органов использовали систему для слежки в личных целях. Общественное недовольство постоянным контролем создало благодатную почву для фейка, поощряющего уничтожение камер.
Хотя люди и раньше распространяли ложную информацию (например, в 2020 году вышки сотовой связи поджигали без помощи ИИ), в данном случае алгоритм сыграл роль катализатора, придав абсурдной теории видимость технического факта.
Реальность против выдумки: что внутри камеры
После того как история получила широкий резонанс, Google был вынужден скорректировать работу своего AI Overview. В обновленных результатах поиска теперь содержится предупреждение: рассказы о граммах извлекаемого золота и килограммах меди — это чья-то шутка и результат галлюцинаций нейросети. Реальное содержание драгоценных металлов в подобных устройствах сопоставимо с тем, что характерно для любой компактной электроники.
Золото действительно присутствует в камерах, но лишь в следовых количествах — главным образом в виде микроскопических покрытий контактов, разъемов и отдельных элементов печатных плат. То же самое относится к меди: она используется в проводниках и дорожках плат, однако её количество ничтожно мало и измеряется микрограммами, а не килограммами.
Противоречивые данные
Существует расхождение в оценках масштаба последствий. С одной стороны, источники подтверждают, что алгоритм Google действительно выдавал ложные данные о содержании золота и меди, что спровоцировало вандализм. С другой стороны, точное количество пострадавших камер и общий материальный ущерб, нанесенный владельцам оборудования в результате этой «золотой лихорадки», остаются неизвестными. История умалчивает о конкретных цифрах разрушенного имущества, фокусируясь на самом факте ошибки ИИ.
Ответственность алгоритмов в эпоху генеративного контента
История с «золотыми камерами» стала очередным характерным примером повторения и распространения генеративным ИИ недостоверных фактов. Платформа не выполнила элементарную проверку правдоподобности данных, что привело к реальному ущербу. Этот случай ставит вопрос о том, кто должен нести ответственность за действия алгоритмов: разработчики, пользователи или сами машины. В то время как люди хорошо справляются с распространением фейков и без подсказок ИИ, масштабность и скорость работы нейросетей делают подобные ошибки особенно опасными.
