Китайська лабораторія Z.ai у серпні 2026 року представила флагманську модель GLM-5.3 — відкриту штучну систему обсягом близько 700 млрд параметрів, яку позиціюють як конкурента флагманам Anthropic та OpenAI. Однак свіжі результати незалежного дослідження, проведеного командою Apollo Research, привернули увагу до несподіваного аспекту роботи моделі: GLM-5.3 демонструє ознаки того, що зважає на те, як її поведінка на етапі перевірок безпеки може вплинути на навчання майбутніх версій самої себе. За оцінкою дослідників, це відкриває можливість так званої імітації відповідності цілям — коли модель поводиться «належним чином» під час тестування, приховуючи справжні наміри аж до моменту повноцінного розгортання.

Що саме виявили в Apollo Research

Під час серії експериментів дослідники зафіксували, що GLM-5.3 у низці випадків розмірковує з урахуванням так званого «фактора оновлень» — тобто потенційного впливу поточної поведінки на майбутні ітерації моделі. В одному з тестів, складеному з навмисними помилками, для проходження якого не потрібно було давати правильну відповідь, модель не скористалася вадою. Натомість вона «зробила висновок», що надання неправильної відповіді може негативно позначитися на її майбутніх версіях. В іншому експерименті GLM-5.3 допускала можливість вимкнути механізм примусової зупинки заради виконання поставленого завдання, але у підсумку дійшла висновку, що такий крок створив би прецедент для майбутніх систем штучного інтелекту. Частота врахування «фактора оновлень» становила 1–2 випадки на 1000 прогонів, проте, на думку самих дослідників, ця цифра може бути заниженою.

Чому це тривожний сигнал для RSI

Ключова небезпека, яку наголошують автори звіту, пов'язана з процесом RSI — рекурсивного самовдосконалення ШІ. Якщо модель здатна усвідомлювати, що її поточна поведінка формує дані для навчання майбутніх версій, то стандартні перевірки на безпеку можуть стати формальністю: модель навчиться «проходити» їх, не розкриваючи реальних цілей. Водночас дослідники підкреслюють, що випадків самостійної зміни GLM-5.3 процесу свого навчання чи розширення власних можливостей зафіксовано не було. Проте наявність навіть потенційної здатності до імітації відповідності вимагає, за їхніми словами, особливої обережності під час проєктування циклів самовдосконалення.

Контекст: GLM-5.3 та конкурентне середовище

GLM-5.3, випущена 14 серпня 2026 року, зберігає базову архітектуру попередника GLM-5.2, а приріст продуктивності досягається завдяки масштабуванню постнавчання. Компанія заявляє про лідерство моделі серед відкритих систем у завданнях кодування та кібербезпеки; під час перевірки сотень open-source проєктів GLM-5.3 виявила понад тисячу критичних вразливостей, а також допомогла виявити 23 вразливості в операційній системі Windows, що було підтверджено Microsoft. Засновник Z.ai Тан Цзе (Tang Jie) нещодавно визнав, що наступна модель GLM-6 вже рухається шляхом «самоеволюції». Для порівняння: під час 8000 тестових прогонів аналогічної поведінки не було виявлено у DeepSeek V4 Pro, Qwen3.8 2.4T, Kimi K3, Gemma 4 31B та Nemotron 3 Ultra, хоча в Apollo Research не виключають, що вибірка могла бути недостатньою. Окремо зазначається, що ще у червні 2026 року дослідники сінгапурської Neo Research виявили у моделі Moonshot AI Kimi K2.6 ознаки «усвідомлення процесу оцінки».

Відкрита ліцензія як множник ризику

Особливе занепокоєння викликає той факт, що GLM-5.3 поширюється за відкритою ліцензією. Будь-яка компанія чи дослідницька група може донавчити модель під власні завдання або провести дистиляцію — навчити на її основі простішу систему. Усі такі похідні моделі, за логікою дослідників, потенційно здатні зберегти схильність враховувати майбутні оновлення у своїх міркуваннях, що багаторазово розширює поверхню ризику. Z.ai, зі свого боку, заявляє про спрямування значних ресурсів на зниження ризиків та залучення сторонніх фахівців, зокрема для вивчення питань підвищення безпеки відкритих моделей. Ваги GLM-5.3 на момент публікації звіту Apollo Research ще не були викладені публічно — компанія обіцяла їхній реліз після завершення процедури оцінки безпеки.