Der südkoreanische Speicherhersteller SK hynix gab am 16. Oktober bekannt, dass er auf dem OCP Global Summit in San Jose speicherzentrierte Servertechnologien vorgestellt hat. Die Veranstaltung des Open Compute Project — einer Gemeinschaft zur Entwicklung offener Hardware für Rechenzentren — fand vom 12. bis 15. Oktober statt. Im Mittelpunkt stand das Konzept, dass der Arbeitsspeicher keine Hilfskomponente mehr ist, sondern zur Hauptressource eines auf künstliche Intelligenz ausgerichteten Rechenracks wird. Zu den Demonstrationen zählten CMM-DDR5-Module, das MARS-Racksystem und die CMM-Ax-Technologie, die Berechnungen direkt mit dem Speicher verbindet.

CMM-DDR5: 256 GB und bis zu 80 GB/s über CXL 3.2

Die zweite Generation des CMM-DDR5-Moduls bietet eine Kapazität von 256 GB und arbeitet auf Basis der CXL-3.2-Schnittstelle (Compute Express Link — ein offener Standard zum Anschließen von Speicher und Beschleunigern). Nach Angaben des Unternehmens erreicht die Bandbreite dieser Module bis zu 80 GB/s, was mehr als dem Doppelten der vorherigen Generation entspricht, während sich die Energieeffizienz um etwa 30 % verbessert hat. Die Module sind für gepoolten Speicher (pooled memory) ausgelegt, bei dem sich mehrere Server einen gemeinsamen Kapazitätspool teilen, um den Speicherzugriff flexibel über Rack-Knoten hinweg zu verteilen.

MARS: Ein Rack, in dem der Speicher die zentrale Ressource ist

Das Unternehmen stellte zudem das Racksystem MARS (Memory Centric AI Rack System) vor, bei dem der Speicher als zentrale Ressource des Racks fungiert und Partnergenerationen zusammenführt. Gemeinsam mit Naver Cloud zeigte SK hynix eine Demonstration des Konzepts eines gemeinsamen Key-Value-Caches (KV-cache) — Zwischendaten, die die Textgenerierung in großen Sprachmodellen beschleunigen —, für eine KI-Agenten-Umgebung sowie gemeinsame Voreinbettungen (Embeddings) für einen Dienst, der mit verschiedenen Datentypen arbeitet. Am Stand wurde zudem die Anbindung an GPUs und HBM gezeigt, was den systemischen statt isolierten architektonischen Ansatz unterstreicht.

CMM-Ax: Berechnungen direkt am Speicher

Die CMM-Ax-Technologie rückt Berechnungen durch Verringerung von Datentransporten näher an den Speicher heran. Sie wurde anhand der Aufgabe demonstriert, große Sprachmodelle (LLMs) mit langem Kontext zu betreiben, bei denen das Verschieben großer Datenmengen zwischen Speicher und Beschleuniger traditionell einen Engpass darstellt. Damit baut SK hynix eine Lösungspalette auf: von einzelnen CMM-DDR5-Modulen über das MARS-Racksystem bis hin zur Rechen-Speicher-Technologie CMM-Ax, die verschiedene Ebenen der Rechenzentrumsinfrastruktur abdeckt.

Einschränkungen: Systemdemonstrationen statt marktreifem Produkt

SK hynix betont, dass es sich um Systemdemonstrationen handelt und nicht um eine breit verfügbare Serverplattform. Die Ankündigung enthält keine unabhängig verifizierten Benchmarks, Preise oder Termine für die Markteinführung. Die angegebenen Leistungsdaten — 80 GB/s, 256 GB und ein Energieeffizienzgewinn von 30 % — stammen vom Unternehmen selbst. Der Kontext spiegelt die allgemeine Branchendynamik wider: Speicherhersteller beschleunigen die Einführung neuer Lösungen aufgrund des steigenden Bedarfs von KI-Systemen, was speicherzentrierte Architekturen zu einem zentralen Wettbewerbsfeld für die nächste Generation von Rechenzentren macht.