Больше кеша — быстрее ИИ: процессоры AMD X3D разгромили конкурентов в тестах RAG

Долгое время считалось, что технология 3D V-Cache — это своего рода «эксклюзивный бонус» для геймеров, которым не хватает кадров в секунду. Однако свежие результаты бенчмарка X3D RAG Benchmark заставляют взглянуть на эти процессоры под другим углом. Оказывается, огромный массив кеш-памяти третьего уровня (L3) становится критическим фактором успеха в задачах искусственного интеллекта, особенно когда речь идет о локальных системах поиска и генерации ответов.

Когда мы говорим об ИИ, большинство сразу вспоминает мощные видеокарты (GPU). Но в архитектуре RAG (Retrieval-Augmented Generation) ситуация несколько сложнее. Эта технология позволяет языковым моделям не просто «выдумывать» ответы, а сначала искать актуальную информацию во внешней базе знаний, а уж потом формировать результат. И вот здесь на сцену выходит центральный процессор.

Поиск в векторных базах данных, обработка запросов и индексирование — это операции, которые в значительной мере ложатся на плечи CPU. В таких сценариях скорость доступа к данным в памяти становится «узким местом». Процессоры Ryzen 7 9800X3D и их последователи с технологией 3D V-Cache имеют значительно больший объем кеша, что позволяет держать необходимые данные «под рукой», не обращаясь каждый раз к более медленной оперативной памяти.

Результаты теста Batch Search 100K демонстрируют почти двукратное преимущество: модели X3D оказались до 88% быстрее стандартных версий без дополнительного кеша. В более сложном сценарии Batch Search 200K процессор Ryzen 7 9850X3D показал прирост более 50% по сравнению с Ryzen 7 9700X. Самое интересное в том, что оба чипа имеют по 8 ядер. Более того, 8-ядерный «монстр» с кешем в некоторых тестах обошел даже флагманский 16-ядерный Ryzen 9 9950X. Это еще раз доказывает: