Эпоха, когда искусственный интеллект требовал мощных серверов и постоянного подключения к интернету, может подойти к концу. Стартап PrismML представил технологию, способную изменить ландшафт мобильной индустрии: они создали модель Bonsai 27B, которая запускается непосредственно на смартфоне, не уступая в возможностях облачным гигантам.

В основе инновации лежит открытая нейросеть Qwen3.6 27B от китайской Alibaba. В своем «родном» виде она весит около 54 ГБ, что делает запуск на потребительских гаджетах невозможным. Инженеры PrismML применили метод радикального упрощения математических значений: вместо стандартной 16-битной кодировки каждый вес внутри нейросети теперь записывается всего в 1-2 бита. Патенты на этот метод принадлежат Калифорнийскому технологическому институту (Caltech) и лицензированы исключительно для стартапа, который в марте привлек 16,25 миллиона долларов инвестиций.

Технологический прорыв и его цена

Компания выпустила две бесплатные версии модели под лицензией Apache 2.0. По данным разработчиков, такое экстремальное сжатие позволяет модели использовать в 10–15 раз меньше оперативной памяти. При этом скорость генерации ответов возрастает в 6–8 раз, а потребление энергии снижается в 3–6 раз.

Однако физика не прощает чудес, и у технологии есть свои компромиссы. Экстремальное сжатие приводит к потере нескольких процентов общей эффективности. У модели Bonsai 27B заметно ухудшились способности к упоминанию точных фактов, распознаванию изображений и работе с посторонними инструментами. Тем не менее, логика, математика и написание кода остались на высоком уровне.

Также остается открытым вопрос энергопотребления при длительном использовании. Непрерывная работа нейросети в фоновом режиме способна быстро разрядить аккумулятор, а процессор начинает сбрасывать частоты из-за перегрева уже через пять минут непрерывной работы.

Стратегия Apple: почему iPhone заинтересовался Bonsai

Apple ведет активные переговоры с PrismML на фоне запуска публичной бета-версии iOS 27, где компания представила масштабное обновление Siri. Локальный запуск сжатых моделей непосредственно на процессорах iPhone дает «яблочной» корпорации несколько стратегических преимуществ:

  • Минимальная задержка: смартфону больше не нужно ждать ответа от облака — обработка запросов происходит мгновенно.
  • Максимальная конфиденциальность: чувствительные данные, такие как медицинская информация, списки лекарств или фитнес-показатели, вообще не покидают устройство.
  • Автономность: базовые функции ИИ, инструменты вычислительной фотографии, генерация видео и редактирование текста могут работать без подключения к интернету.
  • Снижение затрат: уменьшается финансовая нагрузка на содержание собственных дата-центров Apple и оплату посторонних облачных лицензий.

Мнение аналитиков

Несмотря на оптимистичные заявления PrismML, независимые аналитики из Counterpoint Research и IDC призывают оценивать технологию осторожно. Реальные тесты за пределами лаборатории еще не проводились, и пока рано говорить о том, сможет ли эта технология стать стандартом индустрии.