Ein Entwickler unter dem Pseudonym abhi245y hat das Projekt PS5LM Plus vorgestellt, eine Softwareloesung, die das Ausfuehren grosser Sprachmodelle (LLM) direkt auf einer gehackten PlayStation 5-Konsole ermoeglicht. Die Initiative ist eine logische Fortsetzung des frueheren PS5LM-Projekts, das vom KI-Ingenieur Mert Cobanov ins Leben gerufen wurde. Waehrend die urspruengliche Implementierung primaer auf den Hauptprozessor der Konsole setzte und extrem begrenzte Datenmengen verarbeitete, verlagert die neue Version die Hauptrechenlast auf den Grafikprozessor und sorgt so fuer eine vollwertige Antwortgenerierung in Echtzeit.

Auslagerung auf die GPU: Wie die Architektur funktioniert

Der entscheidende technische Durchbruch bei PS5LM Plus war die Verlagerung der Sprachmodell-Inferenz von der CPU auf die GPU. Dazu portierte der Entwickler den AMD RADV-Treiber aus dem Open-Source-Projekt Mesa und passte die Bibliothek llama.cpp so an, dass sie ueber die Vulkan-Grafik-API funktioniert. Dieser Ansatz ermoeglichte es, die Rechenkerne des Grafikprozessors der PlayStation 5 zu nutzen, die urspruenglich fuer das Rendern von Spielgrafiken entworfen wurden, aber ueber ausreichend parallele Bandbreite fuer die fuer neuronale Netzwerke typischen Matrixoperationen verfuegen. Infolgedessen stieg der fuer das Laden von Modellen verfuegbare Arbeitsspeicher von ca. 6 GB auf 11,4 GB, was die Arbeit mit Modellen mittlerer und grosser Klasse ermoeglicht.

Benchmarks: Von 21 bis 124 Token pro Sekunde

Die Tests wurden bei einer Speicherbandbreite von 448 GB/s durchgefuehrt. Das Modell Qwen3.8-27B mit 27 Milliarden Parametern erzielte eine Generierungsgeschwindigkeit von 20,9 Token pro Sekunde. Dabei betrug die Auslastung des Grafikprozessors 100 %, waehrend der Hauptprozessor nur zu 2 % beansprucht wurde, was die korrekte Verlagerung der Last auf die GPU bestaetigt. Kompaktere Modelle arbeiten deutlich schneller: Gemma 4 E4B liefert rund 61 Token pro Sekunde und Llama 3.2 3B bis zu 124 Token pro Sekunde. Fuer den lokalen Einsatz ohne Cloud-Infrastruktur machen solche Werte die Konsole zu einer wettbewerbsfaehigen Plattform fuer die interaktive Kommunikation mit Sprachmodellen.

Web-Schnittstelle, API und Oekosystem-Kompatibilitaet

PS5LM Plus enthaelt eine integrierte Web-Oberflaeche, ueber die der Benutzer einen Dialog mit dem geladenen Modell fuehren kann. Zusaetzlich stellt das Projekt eine API bereit, die ueber das lokale Netzwerk ueber Port 8081 zugaenglich ist. Die Unterstuetzung von OpenAI- und Anthropic-Protokollen ermoeglicht den Anschluss von Entwicklungswerkzeugen von Drittanbietern wie OpenCode, Codex und Claude Code an die Konsole, wodurch die PlayStation 5 zu einem vollwertigen lokalen Knotenpunkt fuer die Arbeit mit KI-Assistenten im Heim- oder Bueronetzwerk wird.

Einschraenkungen und Risiken

Trotz fuer eine Konsolenplattform beeindruckender Ergebnisse bleibt das System durch 16 GB RAM begrenzt, was das Ausfuehren der groessten Modelle ausschisst. Grundvoraussetzung fuer die Funktionsweise der Anwendung ist ein Konsolen-Jailbreak. Sony unterstuetzt solche Modifikationen nicht, und deren Anwendung kann zur Sperrung des Geraets oder des PlayStation Network-Kontos fuehren. Benutzer, die sich fuer Experimente mit PS5LM Plus entscheiden, muessen bedenken, dass Sony im Falle eines Verstoesses gegen die Nutzungsbedingungen das Recht hat, das Konto ohne Entschaedigung zu deaktivieren.