Компания Microsoft объявила о реализации технологии Remote Direct Memory Access (RDMA) через интерфейс USB4, что открывает возможность объединять несколько персональных компьютеров в единую вычислительную систему. Нововведение направлено прежде всего на локальный запуск крупных языковых моделей, которые не помещаются в оперативную память одного устройства. По сути, энтузиасты и разработчики получают инструмент для сборки домашнего ИИ-кластера без необходимости закупки специализированного серверного оборудования и высокоскоростных сетевых карт InfiniBand или RoCE.
Прямой доступ к памяти без сетевого стека
Технология RDMA позволяет передавать данные напрямую между областями оперативной памяти двух систем, минуя значительную часть традиционного сетевого стека. Это обеспечивает минимальную задержку и существенно снижает нагрузку на центральный процессор, который в обычном сетевом обмене вынужден участвовать в каждом цикле копирования данных. Именно поэтому RDMA уже давно является неотъемлемым компонентом систем хранения данных в центрах обработки и распределённых вычислительных кластерах. Теперь эта технология получила новое применение — в сегменте потребительских и рабочих станций. По данным тестов, задержка при использовании RDMA через USB4 составляет 28–50 микросекунд, тогда как при стандартном Ethernet-соединении она достигает 116–194 микросекунд.
Архитектура подключения и требования к оборудованию
Для реализации решения необходим интерфейс USB4, обеспечивающий существенно более высокую пропускную способность по сравнению с предыдущими поколениями USB. Это означает, что объединить таким образом можно только достаточно современные компьютеры, оснащённые соответствующими контроллерами. В техническом плане Microsoft использует существующий в Windows 11 механизм прямого подключения устройств через USB4: каждая система создаёт собственный домен USB4, после чего диспетчер подключений Windows устанавливает между устройствами одноранговый туннель. Специальный программный компонент RDMA связывает очереди передачи данных с кольцевыми буферами DMA контроллера USB4, что позволяет избежать дополнительных операций копирования информации в памяти. Для каждого соединения выделяются две пары кольцевых буферов. При объединении трёх компьютеров один из них должен быть оснащён двумя портами USB4.
Результаты демонстрационного тестирования
Для демонстрации работоспособности Microsoft протестировала технологию на мини-ПК с процессором Ryzen AI Max+ 395 и 128 ГБ оперативной памяти. Три подключённых компьютера успешно запустили модель Qwen3-235B-A22B с 4-битным квантованием. Microsoft сообщила о скорости генерации порядка 18,5 токенов в секунду. При этом AMD, используя собственную конфигурацию оборудования, получила результат 21,98 токенов в секунду. Разница в показателях объясняется различиями в аппаратной конфигурации и настройках тестовых стендов обеих компаний.
Открытый код и перспективы развития
Провайдер NetworkDirect для USB4, а также тестовая платформа на базе llama.cpp, использованная для демонстрации, являются проектами с открытым исходным кодом. Это означает, что сообщество разработчиков может самостоятельно адаптировать решение, дорабатывать драйверы и создавать собственные конфигурации кластеров. Для локальных ИИ-лабораторий, небольших исследовательских групп и энтузиастов, работающих с большими языковыми моделями, это решение может стать доступной альтернативой облачным GPU-кластерам, позволяя использовать уже имеющееся десктопное оборудование.