Nvidia расширяет возможности ИИ с помощью «гигамасштабной» технологии Spectrum-XGS

22 августа Nvidia представила новые достижения в области ПО для ИИ и сетевых технологий, которые должны ускорить работу ИИ‑инфраструктуры и внедрение моделей.

Технологический гигант анонсировал Spectrum‑XGS, «гигамасштабное» расширение для своей платформы Spectrum‑X — Ethernet‑коммутаторов, созданных специально под нагрузки ИИ. Если Spectrum‑X соединяет внутри дата‑центра целые кластеры, обеспечивая потоковую передачу огромных массивов данных между моделями, то Spectrum‑XGS идёт дальше: он объединяет и координирует работу нескольких дата‑центров.

«Вы уже слышали такие понятия, как scale up и scale out. А теперь мы вводим новый термин — scale across, — пояснил Дейв Сальватор, директор по продуктам ускоренных вычислений в Nvidia. — Эти коммутаторы созданы именно для того, чтобы позволить разным дата‑центрам работать согласованно, общаться друг с другом и фактически действовать как один гигантский графический процессор».

В реальности это значит следующее: scale up — это наращивание мощности за счёт более крупных машин, scale out — за счёт увеличения их количества в пределах одного центра. Но есть пределы — дата‑центры ограничены доступной энергией и способностью рассеивать тепло, иначе падает эффективность. Эти факторы и сдерживают рост вычислительных мощностей в конкретной точке.

По словам Сальватора, система минимизирует задержки и так называемый jitter — колебания времени доставки пакетов. В контексте ИИ‑сетей это критично: именно от него зависит, насколько полноценно GPU смогут обмениваться данными между разными площадками.

Для сравнения, представленная в мае технология NVLink Fusion, сетевой интерконнект, позволяет облачным провайдерам масштабировать дата‑центры так, чтобы они поддерживали работу миллионов графических