Где запускать ИИ
Главная/Запуск ИИ/Каталог моделей/Kimi-K3
МОДЕЛЬ / MOONSHOT AI

Kimi-K3

Самая крупная открытая модель каталога по числу параметров. Её продают шлюзы, а запуск у себя — задача кластера, а не одной машины: сравнение «API или своё» здесь самое наглядное.

зарубежная MoE мультимодальная веса открыты
Коротко

Модель на 2 779,9 млрд параметров. При режиме «INT8, контекст 8192 токена, восемь одновременных запросов» нужно 3 342,9 ГБ памяти — это 12× NVIDIA B300. Доступ к весам: веса скачиваются свободно. Лицензия: в карточке заявлено «other», нашего разбора ещё нет. Внимание: это MoE-модель — в памяти обязаны лежать все веса, а не только активные. Проверить сценарий до закупки можно на арендованной карте.

Характеристики

Сняты роботом из карточки модели и файла конфигурации, которые публикует сам автор. Ревизия f831ab668142. Проверено 14.10.2026.

РазработчикMoonshot AI
Параметры2 779,9 млрд
Эксперты (MoE) активных из 896
Слоёв93
Голов внимания96
KV-голов96
ВниманиеMLA — сжатое представление ключей
Контекст1 048 576 токенов
Память на токен контекста 0,107 МБ
Разрядность весовF32, BF16, U8
Доступ к весамвеса скачиваются свободно
Первоисточник карточка модели

Сколько нужно памяти

Считается по снятой архитектуре модели: веса плюс KV-кэш под контекст, с надбавкой на накладные расходы рантайма. Меняются только длина контекста и число одновременных запросов — и требование к железу уезжает в разы. Именно поэтому «столько-то гигабайт под модель» без указания нагрузки ничего не значит.

Сценарий Контекст Одновременно FP16 / BF16FP8 / INT8INT4
Один пользователь, короткий запрос 4 096 1 6 672,3 ГБ
24× NVIDIA B300
 3 336,4 ГБ
12× NVIDIA B300
 1 668,4 ГБ
6× NVIDIA B300
Небольшая группа 8 192 4 6 675,3 ГБ
24× NVIDIA B300
 3 339,4 ГБ
12× NVIDIA B300
 1 671,5 ГБ
6× NVIDIA B300
Отдел, длинные документы 32 768 8 6 699,9 ГБ
24× NVIDIA B300
 3 364 ГБ
12× NVIDIA B300
 1 696 ГБ
6× NVIDIA B300
Много пользователей, длинный контекст 32 768 32 6 784,2 ГБ
24× NVIDIA B300
 3 448,3 ГБ
12× NVIDIA B300
 1 780,3 ГБ
7× NVIDIA B300

Это MoE-модель: считается полный размер весов, потому что в памяти обязаны находиться все эксперты — маршрутизатор выбирает их на лету. Число активных экспертов влияет на скорость, а не на память. KV-кэш считается в 16 битах даже там, где веса ужаты сильнее: кэш почти никогда не квантуется вместе с весами. Подбор карт — оценка сверху по памяти из нашего справочника ускорителей; скорость ответа, питание и охлаждение считаются отдельно. Подбор идёт по объёму памяти и не учитывает программный стек: Ascend и AMD требуют другого инференс-сервера, чем NVIDIA, и это отдельный разговор при проектировании.

Во что обходится миллион токенов

Сколько просят за токены этой модели наблюдаемые поставщики. Цена снята с прайса, у неё есть дата и источник.

ЧУЖОЙ API
1 036 ₽
за миллион токенов генерации — самое дешёвое из 6 предложений, у RouterAI. Проверено 14.10.2026. Та же модель у GenAPI — 3 750 ₽, дороже в 3,6 раза.

Вторая половина счёта пустая намеренно: в один узел из 8 карт модель не помещается ни на одной карте нашего справочника. Умножать ставку на три десятка карт мы не станем — такой сборкой не торгуют, её проектируют, и цена там считается не тарифом. Расчёт идёт по средней нагрузке из таблицы выше: INT8, контекст 8192 токена, восемь одновременных запросов. Свои условия — в расчёте под нагрузку. Вся картина по токенам — на странице цены миллиона.

Что разрешает лицензия

Нашего разбора этой лицензии по первоисточнику пока нет. В карточке модели заявлено «other» — это метаданные, а не прочитанный нами текст лицензии, и на них нельзя опираться в корпоративном решении. Разобранные лицензии — здесь.

Самая тяжёлая модель класса «языковая модель» в каталоге

Размер решает, на чём модель поедет: 2 779,9 млрд параметров — это больше, чем у всех остальных 21 моделей этого класса. Ряд ниже — модели того же класса по числу параметров; расчёт памяти у каждой свой.

1 T-lite-it-1.0 7,6 млрд
2 YandexGPT 5 Lite 8B Pretrain 8 млрд
3 Qwen3-8B 8,2 млрд
4 Vikhr-Nemo-12B-Instruct-R 12,2 млрд
5 GigaChat-20B-A3B-instruct 20,6 млрд
6 gpt-oss-20b 20,9 млрд
7 Mistral Small 3.1 24B Instruct 24 млрд
8 Gemma 3 27B Instruct 27,4 млрд
9 Qwen3.8-27B 27,8 млрд
10 Gemma 4 31B 31,3 млрд
11 T-pro-it-1.0 32,8 млрд
12 Qwen3-32B 32,8 млрд
13 Llama 3.3 70B Instruct 70,6 млрд
14 Qwen2.5-72B-Instruct 72,7 млрд
15 gpt-oss-120b 116,8 млрд
16 MiMo-V2.5 310,8 млрд
17 MiniMax-M3 427 млрд
18 DeepSeek-V3 684,5 млрд
19 GLM-5.3 753,3 млрд
20 DeepSeek-V4.1-Flash 763,2 млрд
21 DeepSeek-V4-Pro 1 598,8 млрд
22 Kimi-K3 — эта страница 2 779,9 млрд

Что дальше

Арендовать NVIDIA B300 Проверить модель на живой карте прежде, чем закупать железо Все модели каталога Сравнить размеры, лицензии и требования к памяти в одной таблице Задачи Под какие сценарии эта модель нужна и что ещё для них требуется Закрытый ИИ-контур Что кроме модели нужно, чтобы это заработало на предприятии Расчёт под свою нагрузку Задать свой контекст, батч и разрядность

Сколько памяти нужно этой модели

Расчёт под ваш контекст и число одновременных запросов: сколько видеопамяти займут веса и кэш и на скольких картах это поместится.

Контекст и batch учитываются в KV-кэше для инференса; кэш считается для архитектуры GQA — так устроены все актуальные открытые модели. Оценка ориентировочная (rule-of-thumb), не профилировщик.

Требуемая VRAM ≈ 169 ГБ
Память под веса140 ГБ
KV-кэш (инференс)1,3 ГБ
Достаточно одной карты
Сколько карт нужно
NVIDIA H100 80 ГБ 3×
NVIDIA H200 141 ГБ 2×
NVIDIA B200 192 ГБ 1×
NVIDIA B300 288 ГБ 1×
NVIDIA A100 80 ГБ 3×
NVIDIA L40S 48 ГБ 4×
RTX PRO 6000 96 ГБ 2×
RTX 6000 Ada 48 ГБ 4×
AMD Instinct MI300X 192 ГБ 1×
Huawei Ascend 910C 64 ГБ 3×
NVIDIA A16 16 ГБ 11×
NVIDIA L4 24 ГБ 8×
NVIDIA RTX 5090 32 ГБ 6×
NVIDIA RTX 4090 24 ГБ 8×
NVIDIA RTX 3090 24 ГБ 8×
NVIDIA RTX A4000 16 ГБ 11×
NVIDIA RTX 5060 Ti 16 ГБ 11×
NVIDIA RTX 5070 12 ГБ 15×
NVIDIA RTX 5070 Ti 16 ГБ 11×
NVIDIA RTX 4060 Ti 16 ГБ 11×
NVIDIA RTX PRO 4000 Blackwell 24 ГБ 8×
AMD Radeon RX 9070 XT 16 ГБ 11×
AMD Radeon RX 9070 16 ГБ 11×
AMD Radeon RX 9060 XT 16 ГБ 11×
AMD Instinct MI355X 288 ГБ 1×
Где арендовать под этот объём

Эти карты в каталоге ускорителей →

Инференс: веса ×1,2 (overhead рантайма) + оценка KV-кэша по контексту и батчу. Архитектура модели здесь неизвестна — вы задаёте только размер, — поэтому она угадывается по числу параметров и предполагается GQA: так устроены Llama 3, Qwen 2.5, Mistral и другие актуальные открытые модели. Сверка по 11 моделям нашего каталога 26.08.2026: у моделей на полном внимании MHA кэш выходит примерно в 10 раз больше оценки, у DeepSeek-V3 со сжатым вниманием MLA — в 21 раз меньше. Если модель известна, точное число есть на её странице в каталоге.

Что дальше
Важно. Расчёт ориентировочный (rule-of-thumb) и не является офертой. Реальная потребность в VRAM зависит от архитектуры модели, движка инференса, длины контекста, метода дообучения (полное / LoRA / QLoRA) и параллелизма. Данные карт (память, TDP) — ориентир, требуют выверки по datasheet. Точный подбор под вашу модель эксперт подтверждает по запросу.
Следующий шаг
Локальная нейросетьСколько открытых моделей поднимет одна карта и во что она обходится.Аренда GPU в РоссииПлощадки, ставки и рейтинг с открытой методологией.Закрытый ИИ-контурКогда данные нельзя выпускать наружу и модель живёт в периметре.