Am 9. August 2026 unternahm Nvidia auf der Konferenz „Future of Memory and Storage“ einen strategischen Schritt zur Beschleunigung der Entwicklung der künstlichen Intelligenz-Industrie. Das Unternehmen kündigte an, den Quellcode seines cuFile-APIs und des darauf basierenden Software-Stacks für Datenspeicher zu öffnen. Diese Entscheidung soll einen herstellerunabhängigen Standard schaffen, der den Datenaustausch zwischen Speichersystemen und dem Arbeitsspeicher von Grafikprozessoren erheblich beschleunigen wird.
Die Technologie GPUDirect Storage und die Rolle von cuFile
Die zugrunde liegende Technologie dieses Vorhabens ist als Nvidia GPUDirect Storage bekannt. Sie existiert bereits seit mehreren Jahren und bietet einen direkten Pfad für die Datenübertragung zwischen einem lokalen oder entfernten Speicher und dem GPU-Speicher. In der traditionellen Architektur werden Daten von SSDs zunächst in den Systemspeicher kopiert und dann an den Grafikprozessor übertragen. GPUDirect Storage eliminiert diesen überflüssigen Schritt und ermöglicht es kompatiblen Speichereinheiten, Daten direkt in den GPU-Speicher zu übertragen, wobei der Mechanismus des direkten Speicherzugriffs (DMA) genutzt wird. Das cuFile-API ist die zentrale Schnittstelle, die diese nahtlose Übertragung ermöglicht.
Die Schaffung eines herstellerunabhängigen Standards: xio-sig
Die Entscheidung von Nvidia, auf Open Source umzusteigen, zielt darauf ab, einen Industriestandard zu schaffen, der nicht ausschließlich an Nvidia-Hardware gebunden ist. Im Rahmen des neuen Projekts xio-sig (Storage Interface Group) wurden vier Schlüsselkomponenten aufgeführt: das cuFile-API selbst, die cuFileConformance-Konformitätsprüfungstools, die libxFile-Bibliothek und der Linux-Kernel-Modul xioLinux. Die Entwicklung erfolgt mit dem Ziel, Implementierungen mehrerer Hardwarehersteller zu unterstützen. Der Code ist derzeit noch nicht öffentlich verfügbar – er wird nach Abschluss der internen Prüfung und Integration freigegeben.
Widersprüchliche Informationen
Zum Zeitpunkt der Ankündigung entstand in einigen Quellen und unter technischen Enthusiasten ein Missverständnis bezüglich der Funktionalität der neuen Technologie. Es gab Spekulationen, dass die Öffnung von cuFile Solid-State-Laufwerke (SSDs) in direkten zusätzlichen Videospeicher verwandeln würde, sodass GPUs deren Kapazität als VRAM-Erweiterung nutzen könnten. Vertreter von Nvidia und Branchenexperten haben die Situation jedoch schnell geklärt. Ein SSD-Laufwerk wird nicht im klassischen Sinne zu zusätzlichem Videospeicher. Für die Datenverarbeitung durch den Grafikprozessor müssen die Daten weiterhin im Arbeitsspeicher der GPU vorliegen. cuFile beschleunigt lediglich die Datenübertragung zwischen dem Speicher und diesem Arbeitsspeicher und eliminiert dabei Verzögerungen, die durch das Kopieren über den Systemspeicher und die CPU entstehen.
Vergleich mit DirectStorage und die SCADA-Architektur
Die präsentierte Technologie weist gewisse Ähnlichkeiten mit Microsoft DirectStorage und Nvidia RTX IO auf, die bereits in der Spieleindustrie eingesetzt werden, um Ressourcen von NVMe-Speichern mit geringerer CPU-Beteiligung in den GPU-Speicher zu übertragen. cuFile ist jedoch eine tiefgreifendere Technologie, die auf CUDA und GPUDirect Storage basiert und auf Aufgaben im Bereich des High-Performance-Computing (HPC) und der KI ausgerichtet ist. Darüber hinaus arbeitet Nvidia an einem Modell, bei dem die Unterscheidung zwischen Speicher und Arbeitsspeicher für KI-Anwendungen weniger deutlich wird. Die SCADA-Architektur (Scaled Accelerated Data Access) ermöglicht es GPU-Threads, Speicheranfragen zu initiieren, was besonders für Datensätze relevant ist, die den lokalen Speichervolumen überschreiten. Dies wird es NVMe-Speichern ermöglichen, als weitere Ebene der Speicherhierarchie neben der GPU zu fungieren, obwohl ihre Latenz und Durchsatzleistung weiterhin von den Merkmalen von HBM- oder GDDR-Speichern abweichen werden.
