Где запускать ИИ
Главная/Запуск ИИ/Каталог моделей/DeepSeek-V3
МОДЕЛЬ / DEEPSEEK

DeepSeek-V3

Крупнейшая открытая MoE-модель в каталоге: считается малая часть весов, а в памяти лежат все. На ней виден главный просчёт при выборе железа под MoE.

зарубежная MoE веса открыты
Коротко

Модель на 684,5 млрд параметров. При режиме «INT8, контекст 8192 токена, восемь одновременных запросов» нужно 826 ГБ памяти — это 3× NVIDIA B300. Доступ к весам: веса скачиваются свободно. Лицензия: DeepSeek License Agreement v1.0. Внимание: это MoE-модель — в памяти обязаны лежать все веса, а не только активные. Проверить сценарий до закупки можно на арендованной карте.

Характеристики

Сняты роботом из карточки модели и файла конфигурации, которые публикует сам автор. Ревизия e815299b0bcb. Проверено 02.09.2026.

РазработчикDeepSeek
Параметры684,5 млрд
Эксперты (MoE) активных 8 из 256
Слоёв61
Голов внимания128
KV-голов128
ВниманиеMLA — сжатое представление ключей
Контекст163 840 токенов
Память на токен контекста 0,07 МБ
Разрядность весовBF16, F8_E4M3, F32
Доступ к весамвеса скачиваются свободно
Первоисточник карточка модели

Сколько нужно памяти

Считается по снятой архитектуре модели: веса плюс KV-кэш под контекст, с надбавкой на накладные расходы рантайма. Меняются только длина контекста и число одновременных запросов — и требование к железу уезжает в разы. Именно поэтому «столько-то гигабайт под модель» без указания нагрузки ничего не значит.

Сценарий Контекст Одновременно FP16 / BF16FP8 / INT8INT4
Один пользователь, короткий запрос 4 096 1 1 643,2 ГБ
6× NVIDIA B300
 821,7 ГБ
3× NVIDIA B300
 411 ГБ
2× NVIDIA B300
Небольшая группа 8 192 4 1 645,2 ГБ
6× NVIDIA B300
 823,7 ГБ
3× NVIDIA B300
 413 ГБ
2× NVIDIA B300
Отдел, длинные документы 32 768 8 1 661,3 ГБ
6× NVIDIA B300
 839,9 ГБ
3× NVIDIA B300
 429,1 ГБ
2× NVIDIA B300
Много пользователей, длинный контекст 32 768 32 1 716,6 ГБ
6× NVIDIA B300
 895,1 ГБ
4× NVIDIA B300
 484,4 ГБ
2× NVIDIA B300

Это MoE-модель: считается полный размер весов, потому что в памяти обязаны находиться все эксперты — маршрутизатор выбирает их на лету. Число активных экспертов влияет на скорость, а не на память. KV-кэш считается в 16 битах даже там, где веса ужаты сильнее: кэш почти никогда не квантуется вместе с весами. Подбор карт — оценка сверху по памяти из нашего справочника ускорителей; скорость ответа, питание и охлаждение считаются отдельно. Подбор идёт по объёму памяти и не учитывает программный стек: Ascend и AMD требуют другого инференс-сервера, чем NVIDIA, и это отдельный разговор при проектировании.

Во что обходится миллион токенов

Два счёта рядом: платить за токены чужому поставщику или держать модель на арендованной карте. Обе цифры наши — цену токена мы снимаем с прайсов, ставку аренды с площадок, — и обе с датой. Порог ниже это условие, а не совет: он говорит, при каком объёме счета сравниваются, а не что вам выбрать.

ЧУЖОЙ API
100 ₽
за миллион токенов генерации — самое дешёвое из 5 предложений, у RouterAI. Проверено 02.09.2026. Та же модель у GenAPI — 1 000 ₽, дороже в 10 раз.
СВОЯ КАРТА В АРЕНДУ
2 443 996 ₽/мес
3× NVIDIA B300 — самая дешёвая конфигурация из тех, где модель помещается и где ставку мы наблюдаем. Ставка Cloud4Y, пересчёт из 1115.98 ₽/час при непрерывной загрузке, проверено 02.09.2026.
ПОРОГ
24 455 млн токенов/мес
Столько модель обязана выдать на арендованной карте, чтобы счёт сравнялся с самым дешёвым тарифом. Меньше — дешевле платить за токены; больше — начинает окупаться карта. Карта берёт деньги за всё время, API — только за работу, поэтому весь вопрос в загрузке, а не в ставке.

⚠️ Базы НДС у этих двух чисел разные или не названы у одного из них — значит порог показан приблизительно и смещён в сторону API. Приводить их к одной базе домножением мы не будем: там, где режим налогообложения не указан, это была бы догадка. Карты в конфигурации складываются по памяти: собрать из них один работающий узел и получить на нём нужную скорость — отдельная инженерная задача, и её цена сюда не входит. Расчёт идёт по средней нагрузке из таблицы выше: INT8, контекст 8192 токена, восемь одновременных запросов. Свои условия — в расчёте под нагрузку. Вся картина по токенам — на странице цены миллиона.

Что разрешает лицензия

DeepSeek License Agreement v1.0 Да своя лицензия вендора
You agree not to use the Model or Derivatives of the Model: … For military use in any way; … For fully automated decision making that adversely impacts an individual’s legal rights

Обязательства по указанию: копия лицензии всем, кому передаёте модель; пометки об изменении файлов

Переносится дальше: ограничения по применению вы обязаны включить в собственные договоры с теми, кому передаёте модель или продукт на её основе.

⚠️ Частое заблуждение: веса DeepSeek считают выложенными под MIT. Под MIT лежит КОД репозитория, а веса модели — под собственным соглашением DeepSeek с ограничениями по применению, и эти ограничения обязаны переноситься во все последующие договоры.

Первоисточник: файл лицензии, прочитан 15.08.2026. Полный разбор всех лицензий — на отдельной странице.

Самая тяжёлая модель класса «языковая модель» в каталоге

Размер решает, на чём модель поедет: 684,5 млрд параметров — это больше, чем у всех остальных 11 моделей этого класса. Ряд ниже — модели того же класса по числу параметров; расчёт памяти у каждой свой.

1 T-lite-it-1.0 7,6 млрд
2 YandexGPT 5 Lite 8B Pretrain 8 млрд
3 Qwen3-8B 8,2 млрд
4 Vikhr-Nemo-12B-Instruct-R 12,2 млрд
5 GigaChat-20B-A3B-instruct 20,6 млрд
6 Mistral Small 3.1 24B Instruct 24 млрд
7 Gemma 3 27B Instruct 27,4 млрд
8 T-pro-it-1.0 32,8 млрд
9 Qwen3-32B 32,8 млрд
10 Llama 3.3 70B Instruct 70,6 млрд
11 Qwen2.5-72B-Instruct 72,7 млрд
12 DeepSeek-V3 — эта страница 684,5 млрд

Что дальше

Арендовать NVIDIA B300 Проверить модель на живой карте прежде, чем закупать железо Все модели каталога Сравнить размеры, лицензии и требования к памяти в одной таблице Задачи Под какие сценарии эта модель нужна и что ещё для них требуется Закрытый ИИ-контур Что кроме модели нужно, чтобы это заработало на предприятии Расчёт под свою нагрузку Задать свой контекст, батч и разрядность

Сколько памяти нужно этой модели

Расчёт под ваш контекст и число одновременных запросов: сколько видеопамяти займут веса и кэш и на скольких картах это поместится.

Контекст и batch учитываются в KV-кэше для инференса; кэш считается для архитектуры GQA — так устроены все актуальные открытые модели. Оценка ориентировочная (rule-of-thumb), не профилировщик.

Требуемая VRAM ≈ 169 ГБ
Память под веса140 ГБ
KV-кэш (инференс)1,3 ГБ
Достаточно одной карты
Сколько карт нужно
NVIDIA H100 80 ГБ 3×
NVIDIA H200 141 ГБ 2×
NVIDIA B200 192 ГБ 1×
NVIDIA B300 288 ГБ 1×
NVIDIA A100 80 ГБ 3×
NVIDIA L40S 48 ГБ 4×
RTX PRO 6000 96 ГБ 2×
RTX 6000 Ada 48 ГБ 4×
AMD Instinct MI300X 192 ГБ 1×
Huawei Ascend 910C 64 ГБ 3×
NVIDIA A16 16 ГБ 11×
NVIDIA L4 24 ГБ 8×
NVIDIA RTX 5090 32 ГБ 6×
NVIDIA RTX 4090 24 ГБ 8×
NVIDIA RTX 3090 24 ГБ 8×
NVIDIA RTX A4000 16 ГБ 11×
Где арендовать под этот объём

Эти карты в каталоге ускорителей →

Инференс: веса ×1,2 (overhead рантайма) + оценка KV-кэша по контексту и батчу. Архитектура модели здесь неизвестна — вы задаёте только размер, — поэтому она угадывается по числу параметров и предполагается GQA: так устроены Llama 3, Qwen 2.5, Mistral и другие актуальные открытые модели. Сверка по 11 моделям нашего каталога 26.08.2026: у моделей на полном внимании MHA кэш выходит примерно в 10 раз больше оценки, у DeepSeek-V3 со сжатым вниманием MLA — в 21 раз меньше. Если модель известна, точное число есть на её странице в каталоге.

Что дальше
Важно. Расчёт ориентировочный (rule-of-thumb) и не является офертой. Реальная потребность в VRAM зависит от архитектуры модели, движка инференса, длины контекста, метода дообучения (полное / LoRA / QLoRA) и параллелизма. Данные карт (память, TDP) — ориентир, требуют выверки по datasheet. Точный подбор под вашу модель эксперт подтверждает по запросу.
Следующий шаг
Локальная нейросетьСколько открытых моделей поднимет одна карта и во что она обходится.Аренда GPU в РоссииПлощадки, ставки и рейтинг с открытой методологией.Закрытый ИИ-контурКогда данные нельзя выпускать наружу и модель живёт в периметре.