Что случилось в мире ML: Gen AI в яме, NVIDIA выкатывает CUDA Toolkit и другие новости

С ML-технологиями постоянно что-то происходит, но на чтение всех новостей не хватит жизни. Чтобы вы не пропустили ничего важного, мы составили дайджест самых громких обновлений.

Полную версию дайджеста вы найдете на странице Selectel ML Hub.

NVIDIA представила обновление Dynamo 0.4, которое заметно ускоряет производительность, добавляет автоскейлинг на базе SLO и улучшает мониторинг в реальном времени.

Отдельный плюс — свежий дашборд для Grafana, новая система disaggregated serving и AIConfigurator, которые делают управление AI-сервисами проще и нагляднее.

🔗 Подробнее в блоге NVIDIA

Не только AMD регулярно ищет таланты. Anthropic усиливает позиции в корпоративном AI благодаря покупке Humanloop — стартапа, который развивал инструменты для управления промтами и оценки моделей. Можно ожидать, что в Claude появятся новые возможности, связанные с ML.

🔗 Подробнее в TechCrunch

CB Insights исследовали, как AI-агенты трансформируют онлайн-торговлю. Перечислим ключевые выводы.

Generative Engine Optimization (GEO) становится новым инструментом цифровой видимости.

Ритейл-агенты выходят за рамки чат-ботов — кажется, они наконец-то смогут совершать операции автономно.

Платежные агенты стремительно превращаются из концепта в часть инфраструктуры.

Коллеги из маркетплейсов, когда будете внедрять технологии?

🔗 Подробнее в CB Insights

NVIDIA выкатила крупное обновление CUDA Toolkit. Из заметного:

поддержка нового железа, включая Jetson Thor и DGX Spark с Unified memory;

объединенный пакет для серверов и ARM (SBSA + embedded);

новые OS в списке — например, Rocky Linux 10.0 и 9.6;

бинарники теперь сжаты через ZStd и занимают меньше места;

и главное — CCCL 3.0. Однако она может сломать ваш код, так что стоит проверять заранее.

🔗 Подробнее в блоге NVIDIA

ML