Казалось бы, задача для искусственного интеллекта уровня Google должна быть элементарной: посчитать количество букв в слове. Однако новейший ИИ-поиск компании продемонстрировал удивительную для «всемогущей» машины неспособность. Вместо ожидаемого результата алгоритм уверенно заявил, что в слове «Google» содержится две буквы «P». Это не единичный сбой, а системная особенность, которая вновь напомнила пользователям о хрупкости современных нейросетей.

От советов есть камни до ошибок в алфавите

Общественность уже не в первый раз встречает обновления поискового гиганта с иронией. Еще недавно «Обзоры от ИИ» прославлялись абсурдными рекомендациями, предлагая пользователям смазывать пиццу клеем или есть камни. Теперь же фокус сместился на базовую грамотность. В самой Google признают проблему, называя подсчет символов известным вызовом для больших языковых моделей, и обещают работать над исправлением.

Почему ИИ не видит букв?

Парадокс заключается в архитектуре нейросетей. Большие языковые модели (LLM), лежащие в основе чат-ботов, не «читают» текст так, как это делаем мы. Для них предложение — это не набор букв и слов, а поток токенов. Трансформеры разбивают информацию на фрагменты (слоги, части слов, символы) и переводят их в числовые векторы, анализируя контекст для генерации логичного ответа.

Именно поэтому ИИ может решить сложную математическую задачу, над которой бьются ученые, но споткнется на орфографии, показав результат, достойный детского сада. Исследователи сходятся во мнении: это фундаментальное ограничение архитектуры, а не временный баг. Приоритет у таких задач низкий, ведь ценность модели — в генерации смыслов, а не в идеальном правописании.

Урок недоверия

Эти ошибки, хоть и выглядят смешно, выполняют важную функцию: они разрушают иллюзию всемогущества. ИИ — это мощный инструмент, но не идеальный оракул. Как показывают последние инциденты, когда алгоритм воспринимает слово «игнорируй» как команду, или путает буквы в собственном логотипе, слепо доверять его ответам опасно. Нейросеть может казаться всезнающей, но в вопросах точности и фактологии она пока остается лишь вероятностным генератором.