МОДЕЛЬ / XIAOMI

MiMo-V2.5

Открытая модель Xiaomi, которую продают шлюзы. Крупная MoE — пример того, как под одной строкой прайса API прячется кластер.

зарубежная MoE мультимодальная веса открыты
Коротко

Модель на 310,8 млрд параметров. При режиме «INT8, контекст 8192 токена, восемь одновременных запросов» нужно 382,6 ГБ памяти — это 2× NVIDIA B200. Доступ к весам: веса скачиваются свободно. Лицензия: в карточке заявлено «mit», нашего разбора ещё нет. Внимание: это MoE-модель — в памяти обязаны лежать все веса, а не только активные. Проверить сценарий до закупки можно на арендованной карте.

Характеристики

Сняты роботом из карточки модели и файла конфигурации, которые публикует сам автор. Ревизия 63651580ca77. Проверено 14.10.2026.

РазработчикXiaomi
Параметры310,8 млрд
Эксперты (MoE) активных 8 из 256
Слоёв48
Голов внимания64
KV-голов4
ВниманиеGQA — общие ключи на группу голов
Контекст1 048 576 токенов
Память на токен контекста 0,147 МБ
Разрядность весовF32, BF16, F8_E4M3
Доступ к весамвеса скачиваются свободно
Первоисточник карточка модели

Сколько нужно памяти

Считается по снятой архитектуре модели: веса плюс KV-кэш под контекст, с надбавкой на накладные расходы рантайма. Меняются только длина контекста и число одновременных запросов — и требование к железу уезжает в разы. Именно поэтому «столько-то гигабайт под модель» без указания нагрузки ничего не значит.

Сценарий Контекст Одновременно FP16 / BF16FP8 / INT8INT4
Один пользователь, короткий запрос 4 096 1 746,5 ГБ
3× NVIDIA B300
373,5 ГБ
2× NVIDIA B200
187,1 ГБ
1× NVIDIA B200
Небольшая группа 8 192 4 750,7 ГБ
3× NVIDIA B300
377,8 ГБ
2× NVIDIA B200
191,3 ГБ
1× NVIDIA B200
Отдел, длинные документы 32 768 8 784,5 ГБ
3× NVIDIA B300
411,6 ГБ
2× NVIDIA B300
225,1 ГБ
1× NVIDIA B300
Много пользователей, длинный контекст 32 768 32 900,5 ГБ
4× NVIDIA B300
527,5 ГБ
2× NVIDIA B300
341,1 ГБ
2× NVIDIA B200

Это MoE-модель: считается полный размер весов, потому что в памяти обязаны находиться все эксперты — маршрутизатор выбирает их на лету. Число активных экспертов влияет на скорость, а не на память. KV-кэш считается в 16 битах даже там, где веса ужаты сильнее: кэш почти никогда не квантуется вместе с весами. Подбор карт — оценка сверху по памяти из нашего справочника ускорителей; скорость ответа, питание и охлаждение считаются отдельно. Подбор идёт по объёму памяти и не учитывает программный стек: Ascend и AMD требуют другого инференс-сервера, чем NVIDIA, и это отдельный разговор при проектировании.

Во что обходится миллион токенов

Два счёта рядом: платить за токены чужому поставщику или держать модель на арендованной карте. Обе цифры наши — цену токена мы снимаем с прайсов, ставку аренды с площадок, — и обе с датой. Порог ниже это условие, а не совет: он говорит, при каком объёме счета сравниваются, а не что вам выбрать.

ЧУЖОЙ API
26 ₽
за миллион токенов генерации — самое дешёвое из 6 предложений, у RouterAI. Проверено 14.10.2026. Та же модель у AITunnel — 56 ₽, дороже в 2,2 раза.
СВОЯ КАРТА В АРЕНДУ
72 757 ₽/мес
8× NVIDIA L40S — самая дешёвая конфигурация из тех, где модель помещается и где ставку мы наблюдаем. Ставка FirstVDS, пересчёт из суточной ставки при непрерывной загрузке, проверено 14.10.2026.
ПОРОГ
2 804 млн токенов/мес
Столько модель обязана выдать на арендованной карте, чтобы счёт сравнялся с самым дешёвым тарифом. Меньше — дешевле платить за токены; больше — начинает окупаться карта. Карта берёт деньги за всё время, API — только за работу, поэтому весь вопрос в загрузке, а не в ставке.

Карты в конфигурации складываются по памяти: собрать из них один работающий узел и получить на нём нужную скорость — отдельная инженерная задача, и её цена сюда не входит. Расчёт идёт по средней нагрузке из таблицы выше: INT8, контекст 8192 токена, восемь одновременных запросов. Свои условия — в расчёте под нагрузку. Вся картина по токенам — на странице цены миллиона.

Что разрешает лицензия

Нашего разбора этой лицензии по первоисточнику пока нет. В карточке модели заявлено «mit» — это метаданные, а не прочитанный нами текст лицензии, и на них нельзя опираться в корпоративном решении. Разобранные лицензии — здесь.

16-я по размеру из 22 моделей класса «языковая модель»

Размер решает, на чём модель поедет: 310,8 млрд параметров — это легче 6 моделей класса и тяжелее 15 моделей. Ряд ниже — модели того же класса по числу параметров; расчёт памяти у каждой свой.

1 T-lite-it-1.0 7,6 млрд
3 Qwen3-8B 8,2 млрд
4 Vikhr-Nemo-12B-Instruct-R 12,2 млрд
5 GigaChat-20B-A3B-instruct 20,6 млрд
6 gpt-oss-20b 20,9 млрд
8 Gemma 3 27B Instruct 27,4 млрд
9 Qwen3.8-27B 27,8 млрд
10 Gemma 4 31B 31,3 млрд
11 T-pro-it-1.0 32,8 млрд
12 Qwen3-32B 32,8 млрд
13 Llama 3.3 70B Instruct 70,6 млрд
14 Qwen2.5-72B-Instruct 72,7 млрд
15 gpt-oss-120b 116,8 млрд
16 MiMo-V2.5 — эта страница 310,8 млрд
17 MiniMax-M3 427 млрд
18 DeepSeek-V3 684,5 млрд
19 GLM-5.3 753,3 млрд
20 DeepSeek-V4.1-Flash 763,2 млрд
21 DeepSeek-V4-Pro 1 598,8 млрд
22 Kimi-K3 2 779,9 млрд

Что дальше

Сколько памяти нужно этой модели

Расчёт под ваш контекст и число одновременных запросов: сколько видеопамяти займут веса и кэш и на скольких картах это поместится.

Контекст и batch учитываются в KV-кэше для инференса; кэш считается для архитектуры GQA — так устроены все актуальные открытые модели. Оценка ориентировочная (rule-of-thumb), не профилировщик.

Требуемая VRAM ≈ 169 ГБ
Память под веса140 ГБ
KV-кэш (инференс)1,3 ГБ
Достаточно одной карты
Сколько карт нужно
NVIDIA H100 80 ГБ 3×
NVIDIA H200 141 ГБ 2×
NVIDIA B200 192 ГБ 1×
NVIDIA B300 288 ГБ 1×
NVIDIA A100 80 ГБ 3×
NVIDIA L40S 48 ГБ 4×
RTX PRO 6000 96 ГБ 2×
RTX 6000 Ada 48 ГБ 4×
AMD Instinct MI300X 192 ГБ 1×
Huawei Ascend 910C 64 ГБ 3×
NVIDIA A16 16 ГБ 11×
NVIDIA L4 24 ГБ 8×
NVIDIA RTX 5090 32 ГБ 6×
NVIDIA RTX 4090 24 ГБ 8×
NVIDIA RTX 3090 24 ГБ 8×
NVIDIA RTX A4000 16 ГБ 11×
NVIDIA RTX 5060 Ti 16 ГБ 11×
NVIDIA RTX 5070 12 ГБ 15×
NVIDIA RTX 5070 Ti 16 ГБ 11×
NVIDIA RTX 4060 Ti 16 ГБ 11×
NVIDIA RTX PRO 4000 Blackwell 24 ГБ 8×
AMD Radeon RX 9070 XT 16 ГБ 11×
AMD Radeon RX 9070 16 ГБ 11×
AMD Radeon RX 9060 XT 16 ГБ 11×
AMD Instinct MI355X 288 ГБ 1×

Инференс: веса ×1,2 (overhead рантайма) + оценка KV-кэша по контексту и батчу. Архитектура модели здесь неизвестна — вы задаёте только размер, — поэтому она угадывается по числу параметров и предполагается GQA: так устроены Llama 3, Qwen 2.5, Mistral и другие актуальные открытые модели. Сверка по 11 моделям нашего каталога 26.08.2026: у моделей на полном внимании MHA кэш выходит примерно в 10 раз больше оценки, у DeepSeek-V3 со сжатым вниманием MLA — в 21 раз меньше. Если модель известна, точное число есть на её странице в каталоге.

Важно. Расчёт ориентировочный (rule-of-thumb) и не является офертой. Реальная потребность в VRAM зависит от архитектуры модели, движка инференса, длины контекста, метода дообучения (полное / LoRA / QLoRA) и параллелизма. Данные карт (память, TDP) — ориентир, требуют выверки по datasheet. Точный подбор под вашу модель эксперт подтверждает по запросу.