Здавалося б, завдання для штучного інтелекту рівня Google має бути елементарним: порахувати кількість літер у слові. Однак найновіший ШІ-пошук компанії продемонстрував дивовижну для «всемогутньої» машини нездатність. Замість очікуваного результату алгоритм впевнено заявив, що у слові «Google» містяться дві літери «P». Це не поодинокий збій, а системна особливість, яка знову нагадала користувачам про крихкість сучасних нейромереж.
Від порад їсти каміння до помилок у алфавіті
Суспільство вже не вперше зустрічає оновлення пошукового гіганта з іронією. Ще недавно «Огляди від ШІ» прославилися абсурдними рекомендаціями, пропонуючи користувачам змащувати піцу клеєм або їсти каміння. Тепер же фокус змістився на базову грамотність. У самій Google визнають проблему, називаючи підрахунок символів відомим викликом для великих мовних моделей, і обіцяють працювати над виправленням.
Чому ШІ не бачить літер?
Парадокс полягає в архітектурі нейромереж. Великі мовні моделі (LLM), що лежать в основі чат-ботів, не «читають» текст так, як це робимо ми. Для них речення — це не набір літер і слів, а потік токенів. Трансформери розбивають інформацію на фрагменти (склади, частини слів, символи) і перетворюють їх у числові вектори, аналізуючи контекст для генерації логічної відповіді.
Саме тому ШІ може вирішити складну математичну задачу, над якою б'ються вчені, але споткнеться на орфографії, показавши результат, гідний дитячого садка. Дослідники сходяться на думці: це фундаментальне обмеження архітектури, а не тимчасовий баг. Пріоритет у таких завданнях низький, адже цінність моделі — у генерації сенсів, а не в ідеальному правописі.
Урок недовіри
Ці помилки, хоч і виглядають смішно, виконують важливу функцію: вони руйнують ілюзію всемогутності. ШІ — це потужний інструмент, але не ідеальний оракул. Як показують останні інциденти, коли алгоритм сприймає слово «ігноруй» як команду, або плутає літери у власному логотипі, сліпо довіряти його відповідям небезпечно. Нейромережа може здаватися всезнаючою, але в питаннях точності та фактології вона поки що залишається лише ймовірнісним генератором.