GPU «научили» использовать подключённую по PCIe память

Графические процессоры теперь могут использовать память, подключённую к PCIe, или твердотельные накопители для увеличения ёмкости видеопамяти. При этом задержка составит наносекунды.

Компания Panmnesia, поддерживаемая известным южнокорейским исследовательским институтом KAIST, разработала CXL IP с малой задержкой, которую можно использовать для расширения памяти GPU с помощью CXL.

Современные графические процессоры для приложений искусственного интеллекта и высокопроизводительных вычислений поставляются с ограниченным объёмом встроенной в устройство памяти с высокой пропускной способностью (HBM). Это ограничивает их производительность. Однако новая технология позволит компаниям расширить объём памяти графического процессора, подключая накопители к шине PCIe. 

Хотя CXL — это протокол, который формально работает поверх канала PCIe, что позволяет пользователям подключать больше памяти к системе через шину PCIe, технология должна распознаваться ASIC и её подсистемой, поэтому недостаточно просто добавить контроллер CXL. 

Panmnesia столкнулась с трудностями при интеграции CXL из-за отсутствия логической структуры протокола и подсистем, поддерживающих конечные точки DRAM и/или SSD в графических процессорах. Кроме того, подсистемы кэша и памяти GPU не распознают никаких расширений, кроме унифицированной виртуальной памяти (UVM). 

Для решения этой проблемы компания разработала корневой комплекс (RC), соответствующий CXL 3.1. Он оснащён несколькими корневыми портами (RP) с поддержкой внешней памяти через PCIe и хост-мостом с декодером памяти устройства, управляемого хостом (HDM), который подключается к системной шине графического процессора. Декодер HDM, отвечающий за управление диапазонами адресов системной памяти, по сути, заставляет