Розробник під псевдонімом abhi245y представив проєкт PS5LM Plus — програмне рішення, яке дозволяє запускати великі мовні моделі (LLM) безпосередньо на зламаній консолі PlayStation 5. Ініціатива стала логічним продовженням раннього проєкту PS5LM, створеного інженером з штучного інтелекту Мертом Кобановим. Якщо початкова реалізація спиралася переважно на центральний процесор консолі та обробляла вкрай обмежений обсяг даних, то нова версія переносить основне обчислювальне навантаження на графічний процесор, забезпечуючи повноцінну генерацію відповідей у реальному часі.
Перенесення обчислень на GPU: як влаштована архітектура
Ключовим технічним рішенням у PS5LM Plus став перенесення інференсу мовних моделей з CPU на GPU. Для цього розробник портирував драйвер AMD RADV з відкритого проєкту Mesa та адаптував бібліотеку llama.cpp для роботи через графічний API Vulkan. Подібний підхід дозволив задіяти обчислювальні ядра графічного процесора PlayStation 5, які спочатку проєктувалися для рендерингу ігрової графіки, але мають достатню паралельну пропускну здатність для матричних операцій, характерних для нейромережевих обчислень. У результаті обсяг оперативної пам'яті, доступної для завантаження моделей, зріс приблизно з 6 до 11,4 ГБ — що відкриває можливість роботи з моделями середнього та великого класу.
Бенчмарки: від 21 до 124 токенів на секунду
Тестування проводилося за пропускної здатності пам'яті 448 ГБ/с. Модель Qwen3.8-27B, що містить 27 мільярдів параметрів, продемонструвала швидкість генерації 20,9 токена за секунду. При цьому завантаження графічного процесора становило 100 %, тоді як центральний процесор був задіяний лише на 2 %, що підтверджує коректність перенесення навантаження на GPU. Більш компактні моделі працюють суттєво швидше: Gemma 4 E4B видає близько 61 токена за секунду, а Llama 3.2 3B — до 124 токенів за секунду. Для локального використання без хмарної інфраструктури такі показники роблять консоль конкурентоспроможною платформою для інтерактивного спілкування з мовними моделями.
Веб-інтерфейс, API та сумісність з екосистемою
PS5LM Plus містить вбудований веб-інтерфейс, через який користувач може вести діалог із завантаженою моделлю. Додатково проєкт надає API, доступне через локальну мережу на порту 8081. Підтримка протоколів OpenAI та Anthropic дозволяє підключати до консолі сторонні інструменти розробки — OpenCode, Codex та Claude Code, перетворюючи PlayStation 5 на повноцінний локальний вузол для роботи з ШІ-асистентами в межах домашньої чи офісної мережі.
Обмеження та ризики
Попри вражаючі для консольної платформи результати, система залишається обмеженою 16 ГБ оперативної пам'яті, що виключає запуск найбільших моделей. Принциповою умовою роботи програми є злам (джейлбрейк) консолі. Sony не підтримує подібні модифікації, і їхнє застосування може спричинити блокування пристрою або облікового запису PlayStation Network. Користувачі, які вирішили експериментувати з PS5LM Plus, повинні враховувати, що в разі порушення умов використання сервіс Sony має право відключити акаунт без компенсації.
