AMD представила технологію MEXT, яка дозволяє великим серверним системам суттєво знизити витрати на оперативну пам'ять. Механізм переносить дані, що рідко використовуються, з дорогої DRAM на значно дешевші SSD-накопичувачі, а алгоритми машинного навчання стежать за тим, щоб це не призводило до помітного падіння продуктивності. На перших 145 серверних системах компанія оцінила досягнуту економію приблизно в $5 млн.

Пам'ять як головна стаття витрат сервера

За словами віцепрезидента AMD з розвитку бізнесу Гері Смердона (Gary Smerdon), який раніше очолював проєкт MEXT, у великих серверах модулі оперативної пам'яті можуть становити від 60 до 90% вартості всього обладнання. Заміна частини DRAM дешевшою флеш-пам'яттю дозволяє скоротити витрати без обов'язкового зменшення об'єму пам'яті, доступного додаткам. Саме ця диспропорція в ціні й визначила напрямок розробки.

Проблема різниці швидкодії

Ключова складність полягає в різниці швидкодії між типами пам'яті. За оцінкою Смердона, флеш-пам'ять може бути в 50 разів дешевшою за DRAM у перерахунку на біт і споживати в 30 разів менше енергії, проте водночас працювати приблизно в 500 разів повільніше. Звичайне вивантаження даних на SSD здатне серйозно сповільнити додатки, особливо чутливі до затримок, тому просте «перекладання» даних без інтелектуального управління неприпустимо.

Як працює MEXT

MEXT використовує модель машинного навчання, яка відстежує звернення до пам'яті й намагається визначити, які сторінки даних знадобляться процесору наступними. Неактивні сторінки переміщуються на накопичувач, а перед повторним зверненням повертаються в DRAM. Для операційної системи й додатків цей процес повинен залишатися непомітним, що й забезпечує прозорість роботи механізму.

Прогнозування на базі архітектури Transformer

В основі механізму прогнозування лежить модель, похідна від архітектури Transformer. Замість наступного слова, як у мовних моделях, вона передбачає наступну затребувану сторінку пам'яті. За твердженням Смердона, початкове навчання займає менше секунди на одному ядрі процесора EPYC, після чого модель продовжує адаптуватися до характеру навантаження. Окремий графічний прискорювач для її роботи не потрібен.

Результати залежать від додатка

Показники продуктивності суттєво залежать від конкретного додатка. У випробуваннях AMD система з Apache Spark зберігала 99% вихідної продуктивності при заміні половини DRAM флеш-пам'яттю. У пакеті Synopsys PrimeTime аналогічна конфігурація забезпечувала 95% продуктивності, а при скороченні фізичної DRAM до чверті початкового об'єму показник знижувався до 80%.

Внутрішнє впровадження та розрахункова економія

AMD також опублікувала результати внутрішнього впровадження MEXT. На 86 серверах компанії програмне забезпечення забезпечило близько 58 Тбайт додаткової доступної пам'яті. Купівля зіставного об'єму DRAM обійшлася б приблизно в $3,3 млн, тоді як витрати на впровадження MEXT склали близько $601 тис. Таким чином, розрахункова економія досягла $2,78 млн, або 82% від вартості розширення пам'яті традиційним способом.

Доступність, партнери та контекст

Програмне забезпечення призначене передусім для серверів на процесорах AMD EPYC. На системах Linux для його роботи передбачено модуль ядра, а для аналізу навантаження пропонується утиліта RAM View. AMD співпрацює з виробниками серверів, включно з HPE, щоб підготувати обладнання до використання MEXT, а комерційне поширення ліцензій через партнерів заплановано на наступний етап впровадження. Сама AMD придбала розробника MEXT у червні 2026 року, а можливості технології були представлені разом із серверними процесорами EPYC Venice на архітектурі Zen 6.