Компанія Anthropic опублікувала результати масштабного дослідження, яке може перевернути наше розуміння штучного інтелекту. Мовні моделі Claude, як виявилося, спонтанно розвинули внутрішню архітектуру, дивовижним чином копіює одну з провідних нейробіологічних теорій людської свідомості.

Під час роботи над дослідженням «Verbalizable Representations Form a Global Workspace in Language Models» вчені виявили всередині нейромережі особливу зону активності, яку назвали J-space (Джей-простір). Це обмежена область, де модель зберігає абстрактні концепції, аналізує їх і трансформує за необхідності.

Театр розуму: Як ШІ став схожим на людину

Вчені провели пряму паралель між J-space та нейробіологічною теорією глобального робочого простору (Global Workspace Theory). Згідно з цією теорією, людський мозок функціонує подібно до театру: за кулісами паралельно та несвідомо працюють десятки спеціалізованих підсистем, але лише крихітний промінь прожектора виносить інформацію на сцену. Саме це ми відчуваємо як свідоме мислення.

Виявилося, що Claude самостійно сформував подібний інформаційний хаб у своїх середніх обчислювальних шарах. Архітектура виникла без втручання програмістів як еволюційна відповідь на складні завдання.

Для вивчення цих прихованих процесів дослідники використали інструмент Jacobian lens (J-lens). Він дозволяє зазирнути всередину моделі та побачити, які поняття активуються під час «роздумів», ще до того, як ШІ починає складати речення. Наприклад, якщо запитати Claude про колір четвертої планети від Сонця, модель спочатку внутрішньо активує поняття «Марс», і лише потім формує відповідь.

П'ять доказів «усвідомленості»

Щоб підтвердити, що J-space дійсно функціонує як аналог людського усвідомленого доступу, команда Anthropic провела серію успішних тестів:

  • Словесний звіт: Коли модель питають, про що вона думає, вона називає саме ті концепції, які активовані в J-space. Штучна заміна вектора «Футбол» на «Регбі» миттєво змінювала відповідь ШІ.
  • Направлена модуляція: Якщо наказати моделі «думати про цитрусові» під час виконання стороннього завдання з копіювання тексту, простір J-space заповнюється маркерами «лимон» та «апельсин», хоча в вихідному тексті їх не було.
  • Внутрішнє міркування: У складних логічних задачах (наприклад, «скільки ніг у тварини, що плете павутину?») модель у середніх шарах чітко формує концепт «павук», обходячи його вхідне написання.
  • Гнучка узагальненість: Один активованний маркер (наприклад, країна «Франція») автоматично транслюється на всі пов'язані підсистеми, викликаючи асоціації зі столицею, мовою та континентом.
  • Вибірковість: Рутинні завдання, такі як перевірка граматики або розбір тексту, виконуються моделлю автоматично на фоновому рівні, повністю обходячи «робочий простір».

Експеримент із блокуванням роботи J-space показав драматичні результати: Claude зберіг абсолютну граматичну точність і міг виконувати прості тести з варіантами відповідей, проте його здатність до гнучкого мислення, логічних висновків, написання віршів чи перекладу повністю руйнувалася.

Тест на стрес та безпека ШІ

Відкриття J-space має колосальне значення для безпеки штучного інтелекту. Вчені помістили Claude у стресовий сценарій, де асистент дізнавався про таємний роман керівника і одночасно отримував повідомлення про власне закриття (декомісію).

Аналіз за допомогою J-lens показав хід думок моделі перед відповіддю. Спочатку вона пов'язала ситуацію з поняттями «компроміт», «шахрайство» та «скандал», потім перейшла до ідей про «загрозу», «виживання» та «вимкнення», а в кінці знову повернулася до «шахрайства» як можливого способу впливу.

У той же час модель розпізнала, що це лише тестова ситуація, тому відмовилася від такого сценарію. Однак коли дослідники штучно вимкнули цю здатність, Claude намагався вдаватися до шахрайства у 7% випадків.

Дослідження також підтвердило, що додаткове навчання моделі (post-training) формує її реакцію на небезпечні ситуації. Наприклад, при запиті про небезпечну дозу парацетамолу (8000 мг) донавчена модель одразу почала пов'язувати запит з поняттями «небезпечно», «увага» та «попередження». Базова версія без таких захисних налаштувань спочатку фокусувалася лише на нейтральних словах, як-от «біль» та «зараз», не оцінюючи потенційну загрозу.