Об этом же в других СМИ
/ habr.com
Xiaomi разогнали 1T-модель до 1200 tok/s на стандартных GPU
Китайские команды MiMo и TileRT опубликовали режим UltraSpeed для модели MiMo V2.5 Pro (1,02T параметров).
На одном 8-карточном сервере со стандартными GPU, до ~1200 токенов в секунду. Cerebras выдаёт похожие скорости на кастомном железе. Здесь обошлись без него.
В кратце работает так:
MoE-слои сжали с 16 до 4 бит: они занимают большую часть весов и хорошо переносят потерю точности, остальное оставили нетронутым
Рядом с основной моделью запускается маленькая, которая угадывает сразу 8 токенов вперёд
Основная проверяет их разом и принимает правильные
В coding-сценариях угадывается ~6,3 токенов из 8
Похожий механизм Google применяет в Gemma 4.
На видео можно заценить скорость: 12 секунд против 6 минут на стандартных скоростях, к которым мы сейчас привыкли.
Друзья! Эту новость подготовила команда ТГК «AI for Devs» — канала, где мы рассказываем про AI-агентов, плагины для IDE, делимся практическими кейсами и свежими новостями из мира ИИ. Подписывайтесь, чтобы быть в курсе и ничего не упустить!
Читать на habr.comОб этом же в других СМИ
DeepSeek V4 запустил ценовую войну в Китае: Xiaomi срезала цены на API до 99% habr.com / 4 дня назад
Xiaomi Mijia Handheld Fan: персональный ураган с 100 скоростями gagadget.com / 4 дня назад
Xiaomi Mijia District 3: три барабана для тех, кто ценит гигиену превыше всего gagadget.com / 4 дня назад
Показать ещё
Сайт vsenovosti.life - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.
15.06 / 13:44
15.06 / 13:44
прогноз
доллар
Ethereum
DXY
Курс bitcoin
Геополитическая разрядка и заседание ФРС: трейдер оценил сценарии движения биткоина и Ethereum
Дисклеймер: материал не является финансовой рекомендацией или призывом к действию. Представленная аналитика является частным мнением ее автора. Incrypted не несет ответственности за инвестиционные решения читателей. Биткоин ― деэскалация ломает шортовую структуру Актив достиг ранее намеченных целей ― мы увидели техническое возвращение цены в верхний четырехчасовой ценовой дисбаланс (4H FVG) в районе $65 500, прямо под уровень максимума прошлой недели (PWH). Мар
15.06 / 13:44
технологии
здоровье
крипто
Tether
usdt
Tether выпустила обновление ИИ-платформы QVAC
Исследовательское подразделение Tether Data AI представило обновление QVAC SDK 0.13.0. Релиз добавляет поддержку локальной генерации видео, интерфейсов мозг-компьютер (BCI), моделей для робототехники и упрощает создание десктопных ИИ-приложений. О выходе новой версии сообщил генеральный директор Tether Паоло Ардоино. По словам команды, QVAC SDK 0.13.0 позволяет интегрировать локальные ИИ-модели непосредственно в среды разработки и агентные системы программирования. Также платформа получила поддержку новых OpenAI-совместимых API и инструмент для создания настольных при
15.06 / 13:22
технологии
люди
самит
Эксперт
интересное
Секретная деталь – зачем на самом деле нужна петля на кроссовках
Американские спортивные ортопеды опубликовали разбор скрытых функций обувных аксессуаров. Небольшая стропа на пятке оказалась важным узлом.
15.06 / 13:22
продукты
технологии
здоровье
продукты питания
животный мир
От каких продуктов лучше отказаться после 40 лет
После 40 лет работа организма начинает меняться и потому стоит пересмотреть свой образ жизни, привычки и питание.
15.06 / 13:22
iPhone
связь
технологии
люди
ученые
Рождаемость и iPhone - эксперты обнаружили неожиданную связь
Авторы исследования пришли к выводу, что массовое распространение iPhone могло повлиять на уровень рождаемости в разных странах.
15.06 / 13:22
продукты
здоровье
самит
Здоровье и красота
Список продуктов, которые категорически нельзя греть в микроволновке
Почему некоторые продукты не стоит греть в микроволновке и что происходит с пищей при такой обработке, рассказали специалисты.
15.06 / 13:17
продукты
технологии
юбилей
доллар
мода и стиль
Kenwood выпустила необычные TWS-наушники Glass Core со стеклянной диафрагмой и прозрачным корпусом
Производитель использовал в конструкции закаленное стекло и прозрачные композитные материалы премиального класса, благодаря чему устройства заметно выделяются на фоне большинства конкурентов. Полупрозрачные элементы корпуса позволяют увидеть часть внутренней конструкции наушников. Такое решение придает новинкам футуристичный облик и подчеркивает их принадлежность к премиальному сегменту.
15.06 / 13:08
продукты
AMD
Minix ER939-AI Pro: мини-ПК на AMD Strix Halo по цене подержанного авто
Компания Minix решила, что компактность должна стоить дорого. Очень дорого. Их новая разработка ER939-AI Pro — это не просто очередная коробочка для офисных таблиц, а попытка втиснуть мощность серьезной рабочей станции в металлический корпус объемом всего 2.75 литра. Устройство ориентировано на профессионалов, которым нужна мобильность без компромиссов в производительности, хотя ценник в $4350 (183 000 грн) заставляет задуматься о целесообразности такой покупки.
15.06 / 13:05
бизнес
экономика
конференция
общество
Sony
Xbox планирует масштабные сокращения
Xbox планирует масштабные сокращения рабочих мест в следующем месяце. Новый генеральный директор Аша Шарма проводит реорганизацию подразделения видеоигр, чтобы остановить падение доходов.
