Американська лабораторія штучного інтелекту Nous Research завершила процедуру додаткового навчання (fine-tuning) популярної відкритої моделі Alibaba Qwen3.8-27B, щоб, за виразом розробників, «позбавити її китайського коріння». У результаті перенавчання модель отримала нове ім'я — Arete — і почала генерувати відповіді, які творці оригінальної моделі в Alibaba, ймовірно, не вважали б прийнятними. Заявлену мету проєкту сформульовано прямо: «утвердити західні цінності в моделі, спочатку навченій у Китаї».

Чому «китайське коріння» стало проблемою

Задум проєкту зумовлений міркуваннями про те, що китайські моделі з відкритими вагами є одними з найпотужніших на сьогодні, проте в їхніх вагах, на думку американських розробників, «спочатку закладено поведінку, що відповідає державній ідеології Китаю». Саме це, як пояснюють у Nous Research, робить пряме використання таких моделей ризикованим для західних продуктів і сервісів, де потрібна нейтральна або відповідна локальним нормам видача.

Загрози ширші за ідеологію: вразливий код

Пов'язані з китайськими ШІ-моделями ризики, за оцінкою дослідників, не завжди зводяться лише до просування ідеології Пекіна. За певних умов деякі з таких моделей здатні генерувати вразливий програмний код, що становить практичну загрозу для безпеки додатків. Це розширює мотивацію «очищення» відкритих ваг від закладених при навчанні патернів поведінки.

Прецедент Hirundo: від 89,8 % до 2,8 %

Показовим прикладом ефективності перенавчання став досвід компанії Hirundo, яка застосувала методи fine-tuning до моделі Alibaba Qwen3.6-35B-A3B. У результаті обсяг контенту, що відображає переваги Пекіна, різко скоротився: якщо до початку процесу цим установкам відповідали 89,8 % відповідей моделі, то після перенавчання показник впав до 2,8 %. Цей кейс підтверджує, що ідеологічний пласт у відкритих китайських моделях піддається корекції.

Як саме перенавчали Arete

Дослідники Nous Research домоглися менш ефектних, але помітних результатів: фактична точність моделі Arete-27B зросла з 2,32 до 2,98 за п'ятибальною шкалою, а частка відповідей, що містять пропаганду, знизилася з 22 % до 1 % — показники, порівнянні з протестованими в лабораторії західними моделями. При виборі інструменту для перенавчання фахівці розглядали модель Nvidia Nemotron 3 Ultra, проте виявили, що і вона «демонструвала неоднозначний підхід до пов'язаних із Китаєм тем», що пов'язали з можливим використанням китайських моделей при навчанні самої Nemotron. У підсумку вибір припав на відкриту модель Inkling, випущену американською лабораторією Thinking Machines Lab. Практика показала, що пропагандистський пласт в Alibaba Qwen3.8-27B має поверхневий характер і відносно легко усувається на навчальному обсязі даних близько 50 млн токенів.

Що це означає для ринку відкритих моделей

Випадок Arete ілюструє зростаючий тренд на «переналаштування» потужних відкритих китайських моделей під західні стандарти поведінки та безпеки. З одного боку, це підтверджує, що ідеологічна складова у вагах таких моделей не є незворотною і може бути знята відносно невеликим обсягом даних. З іншого — порушує питання про те, наскільки глибоко і стійко можна контролювати поведінку відкритих ваг, які після публікації вільно поширюються і можуть бути модифіковані будь-яким користувачем.