Разработчик под псевдонимом abhi245y представил проект PS5LM Plus — программное решение, позволяющее запускать большие языковые модели (LLM) непосредственно на взломанной консоли PlayStation 5. Инициатива стала логическим продолжением более раннего проекта PS5LM, созданного инженером по искусственному интеллекту Мертом Кобановым. Если первоначальная реализация опиралась преимущественно на центральный процессор консоли и обрабатывала крайне ограниченный объём данных, то новая версия переносит основную вычислительную нагрузку на графический процессор, обеспечивая полноценную генерацию ответов в реальном времени.
Перенос вычислений на GPU: как устроена архитектура
Ключевым техническим решением в PS5LM Plus стал перенос инференса языковых моделей с CPU на GPU. Для этого разработчик портировал драйвер AMD RADV из открытого проекта Mesa и адаптировал библиотеку llama.cpp для работы через графический API Vulkan. Подобный подход позволил задействовать вычислительные ядра графического процессора PlayStation 5, которые изначально проектировались для рендеринга игровой графики, но обладают достаточной параллельной пропускной способностью для матричных операций, характерных для нейросетевых вычислений. В результате объём оперативной памяти, доступной для загрузки моделей, вырос примерно с 6 до 11,4 ГБ — что открывает возможность работы с моделями среднего и крупного класса.
Бенчмарки: от 21 до 124 токенов в секунду
Тестирование проводилось при пропускной способности памяти 448 ГБ/с. Модель Qwen3.8-27B, содержащая 27 миллиардов параметров, продемонстрировала скорость генерации 20,9 токена в секунду. При этом загрузка графического процессора составляла 100 %, тогда как центральный процессор был задействован лишь на 2 %, что подтверждает корректность переноса нагрузки на GPU. Более компактные модели работают существенно быстрее: Gemma 4 E4B выдаёт порядка 61 токена в секунду, а Llama 3.2 3B — до 124 токенов в секунду. Для локального использования без облачной инфраструктуры такие показатели делают консоль конкурентоспособной платформой для интерактивного общения с языковыми моделями.
Веб-интерфейс, API и совместимость с экосистемой
PS5LM Plus включает встроенный веб-интерфейс, через который пользователь может вести диалог с загруженной моделью. Дополнительно проект предоставляет API, доступное через локальную сеть на порту 8081. Поддержка протоколов OpenAI и Anthropic позволяет подключать к консоли сторонние инструменты разработки — OpenCode, Codex и Claude Code, превращая PlayStation 5 в полноценный локальный узел для работы с ИИ-ассистентами в рамках домашней или офисной сети.
Ограничения и риски
Несмотря на впечатляющие для консольной платформы результаты, система остаётся ограниченной 16 ГБ оперативной памяти, что исключает запуск самых крупных моделей. Принципиальным условием работы приложения является взлом (джейлбрейк) консоли. Sony не поддерживает подобные модификации, и их применение может повлечь блокировку устройства или учётной записи PlayStation Network. Пользователи, решившие экспериментировать с PS5LM Plus, должны учитывать, что в случае нарушения условий использования сервис Sony вправе отключить аккаунт без компенсации.
