Команда Anthropic представила результати дослідження, в якому модель Claude навчилася аналізувати власний досвід у періоди бездіяльності — процес, який розробники прямо порівнюють зі сном людини. За їхніми словами, саме у «фазі відпочинку» нейромережа впорядковує накопичену інформацію, закріплює корисні знання і, що важливо, знаходить та виправляє власні помилки без зовнішніх підказок. Супровідна візуалізація демонструє обидві сторони цього підходу: модель досліджує реальну сцену в доповненій реальності й водночас структурує отримані дані в граф знань.
Проблема пам'яті: між «помійкою» та чистим аркушем
Вихідне завдання, з яким зіткнулися інженери, виявилося неочевидним: якщо бот записує кожен свій крок, його пам'ять з часом перетворюється на «помійку» з надлишкових даних. Але якщо не зберігати важливі деталі, то в наступній сесії доведеться починати з нуля. Знайти баланс між повним протоколюванням і точковим запам'ятовуванням — ключ до того, щоб модель дійсно накопичувала досвід, а не просто копіювала його.
Тест у Pokémon Red: точність проти об'єму
Щоб перевірити підходи на практиці, дослідники відправили Claude проходити Pokémon Red — гру, в якій потрібно досліджувати світ і збирати значки. Результати після 10 000 ігрових кроків виявилися показовими. Модель Sonnet 3.7 зберігала абсолютно все: 413 файлів у 225 папках, майже 978 000 символів, — і при цьому отримала лише один значок. Claude Fable 5 діяла точково: всього 10 файлів у 3 папках (близько 43 400 символів) і чотири значки. Fable 5 записувала головне — стратегії, висновки та поточні цілі, не витрачаючи ресурси на те, що й так видно на екрані, і не втрачаючи відкриттів між сесіями.
«Сни» як механізм виправлення галюцинацій
В Anthropic наголошують: якщо ШІ зберіг хибний факт, то в наступних розмовах він сприймає його за правду. Саме «сни» — періоди бездіяльності — допомогли позбутися такої «галюцинації». В одному з тестів у Pokémon Red бот невірно записав координати Покецентру біля гори Мун і через це постійно блукав навколо, стрибав через односторонні уступи та повертався до початку маршруту. У режимі простою Claude звірив свої нотатки з повним текстом минулої гри й виявив помилку.
Від гри до реальних завдань: 420 мільйонів токенів
Ефективність «нічного роздуму» перевірили на великих масивах даних. Claude доручили опрацювати 350 000 внутрішніх документів компанії Stainless загальним обсягом близько 420 мільйонів токенів. За 128 періодів бездіяльності модель самостійно створила повноцінну вікісистему зі структурованими даними та перехресними посиланнями. Точність відповідей на 25 складних тестових запитань зросла з 13 до 48 відсотків. В іншому експерименті, пов'язаному з документами про злиття компаній, база знань, створена в період бездіяльності, дала змогу відповідати з точністю до 87 відсотків, тоді як звичайний пошук у документах давав лише 73 відсотки.
Обмеження: обчислювальна ціна «сну»
Розробники чесно вказують на межі підходу: такі сеанси аналізу вимагають значних обчислювальних ресурсів, а надлишкова кількість інформації в пам'яті здатна перевантажувати наступні сесії роботи моделі. Проте продемонстрований механізм — самокорекція під час простою — розглядається як один із шляхів до стійкішої та «чистішої» пам'яті ШІ-агентів.
