Где запускать ИИ
Главная/Запуск ИИ/Каталог моделей/gpt-oss-20b
МОДЕЛЬ / OPENAI

gpt-oss-20b

Младшая модель открытой линейки OpenAI: помещается на одну потребительскую карту и продаётся у шлюзов — недорогая точка входа, где оба пути можно сравнить.

зарубежная MoE веса открыты
Коротко

Модель на 20,9 млрд параметров. При режиме «INT8, контекст 8192 токена, восемь одновременных запросов» нужно 28,3 ГБ памяти — это 1× NVIDIA RTX 5090. Доступ к весам: веса скачиваются свободно. Лицензия: в карточке заявлено «apache-2.0», нашего разбора ещё нет. Внимание: это MoE-модель — в памяти обязаны лежать все веса, а не только активные. Проверить сценарий до закупки можно на арендованной карте.

Характеристики

Сняты роботом из карточки модели и файла конфигурации, которые публикует сам автор. Ревизия 6cee5e81ee83. Проверено 14.10.2026.

РазработчикOpenAI
Параметры20,9 млрд
Эксперты (MoE) активных 4 из 32
Слоёв24
Голов внимания64
KV-голов8
ВниманиеGQA — общие ключи на группу голов
Контекст131 072 токенов
Память на токен контекста 0,049 МБ
Разрядность весовBF16, U8
Доступ к весамвеса скачиваются свободно
Первоисточник карточка модели

Сколько нужно памяти

Считается по снятой архитектуре модели: веса плюс KV-кэш под контекст, с надбавкой на накладные расходы рантайма. Меняются только длина контекста и число одновременных запросов — и требование к железу уезжает в разы. Именно поэтому «столько-то гигабайт под модель» без указания нагрузки ничего не значит.

Сценарий Контекст Одновременно FP16 / BF16FP8 / INT8INT4
Один пользователь, короткий запрос 4 096 1 50,4 ГБ
1× Huawei Ascend 910C
 25,3 ГБ
1× NVIDIA RTX 5090
 12,8 ГБ
1× NVIDIA A16
Небольшая группа 8 192 4 51,8 ГБ
1× Huawei Ascend 910C
 26,7 ГБ
1× NVIDIA RTX 5090
 14,2 ГБ
1× NVIDIA A16
Отдел, длинные документы 32 768 8 63,1 ГБ
1× Huawei Ascend 910C
 38 ГБ
1× NVIDIA L40S
 25,4 ГБ
1× NVIDIA RTX 5090
Много пользователей, длинный контекст 32 768 32 101,7 ГБ
1× NVIDIA H200
 76,6 ГБ
1× NVIDIA H100
 64,1 ГБ
1× NVIDIA H100

Это MoE-модель: считается полный размер весов, потому что в памяти обязаны находиться все эксперты — маршрутизатор выбирает их на лету. Число активных экспертов влияет на скорость, а не на память. KV-кэш считается в 16 битах даже там, где веса ужаты сильнее: кэш почти никогда не квантуется вместе с весами. Подбор карт — оценка сверху по памяти из нашего справочника ускорителей; скорость ответа, питание и охлаждение считаются отдельно. Подбор идёт по объёму памяти и не учитывает программный стек: Ascend и AMD требуют другого инференс-сервера, чем NVIDIA, и это отдельный разговор при проектировании.

Во что обходится миллион токенов

Два счёта рядом: платить за токены чужому поставщику или держать модель на арендованной карте. Обе цифры наши — цену токена мы снимаем с прайсов, ставку аренды с площадок, — и обе с датой. Порог ниже это условие, а не совет: он говорит, при каком объёме счета сравниваются, а не что вам выбрать.

ЧУЖОЙ API
9,81 ₽
за миллион токенов генерации — самое дешёвое из 6 предложений, у RouterAI. Проверено 14.10.2026. Та же модель у GPTunneL — 40 ₽, дороже в 4,1 раза.
СВОЯ КАРТА В АРЕНДУ
9 095 ₽/мес
1× NVIDIA L40S — самая дешёвая конфигурация из тех, где модель помещается и где ставку мы наблюдаем. Ставка FirstVDS, пересчёт из суточной ставки при непрерывной загрузке, проверено 14.10.2026.
ПОРОГ
927 млн токенов/мес
Столько модель обязана выдать на арендованной карте, чтобы счёт сравнялся с самым дешёвым тарифом. Меньше — дешевле платить за токены; больше — начинает окупаться карта. Карта берёт деньги за всё время, API — только за работу, поэтому весь вопрос в загрузке, а не в ставке.

Карты в конфигурации складываются по памяти: собрать из них один работающий узел и получить на нём нужную скорость — отдельная инженерная задача, и её цена сюда не входит. Расчёт идёт по средней нагрузке из таблицы выше: INT8, контекст 8192 токена, восемь одновременных запросов. Свои условия — в расчёте под нагрузку. Вся картина по токенам — на странице цены миллиона.

Что разрешает лицензия

Нашего разбора этой лицензии по первоисточнику пока нет. В карточке модели заявлено «apache-2.0» — это метаданные, а не прочитанный нами текст лицензии, и на них нельзя опираться в корпоративном решении. Разобранные лицензии — здесь.

6-я по размеру из 22 моделей класса «языковая модель»

Размер решает, на чём модель поедет: 20,9 млрд параметров — это легче 16 моделей класса и тяжелее 5 моделей. Ряд ниже — модели того же класса по числу параметров; расчёт памяти у каждой свой.

1 T-lite-it-1.0 7,6 млрд
2 YandexGPT 5 Lite 8B Pretrain 8 млрд
3 Qwen3-8B 8,2 млрд
4 Vikhr-Nemo-12B-Instruct-R 12,2 млрд
5 GigaChat-20B-A3B-instruct 20,6 млрд
6 gpt-oss-20b — эта страница 20,9 млрд
7 Mistral Small 3.1 24B Instruct 24 млрд
8 Gemma 3 27B Instruct 27,4 млрд
9 Qwen3.8-27B 27,8 млрд
10 Gemma 4 31B 31,3 млрд
11 T-pro-it-1.0 32,8 млрд
12 Qwen3-32B 32,8 млрд
13 Llama 3.3 70B Instruct 70,6 млрд
14 Qwen2.5-72B-Instruct 72,7 млрд
15 gpt-oss-120b 116,8 млрд
16 MiMo-V2.5 310,8 млрд
17 MiniMax-M3 427 млрд
18 DeepSeek-V3 684,5 млрд
19 GLM-5.3 753,3 млрд
20 DeepSeek-V4.1-Flash 763,2 млрд
21 DeepSeek-V4-Pro 1 598,8 млрд
22 Kimi-K3 2 779,9 млрд

Что дальше

Арендовать NVIDIA RTX 5090 Проверить модель на живой карте прежде, чем закупать железо Все модели каталога Сравнить размеры, лицензии и требования к памяти в одной таблице Задачи Под какие сценарии эта модель нужна и что ещё для них требуется Закрытый ИИ-контур Что кроме модели нужно, чтобы это заработало на предприятии Расчёт под свою нагрузку Задать свой контекст, батч и разрядность

Сколько памяти нужно этой модели

Расчёт под ваш контекст и число одновременных запросов: сколько видеопамяти займут веса и кэш и на скольких картах это поместится.

Контекст и batch учитываются в KV-кэше для инференса; кэш считается для архитектуры GQA — так устроены все актуальные открытые модели. Оценка ориентировочная (rule-of-thumb), не профилировщик.

Требуемая VRAM ≈ 169 ГБ
Память под веса140 ГБ
KV-кэш (инференс)1,3 ГБ
Достаточно одной карты
Сколько карт нужно
NVIDIA H100 80 ГБ 3×
NVIDIA H200 141 ГБ 2×
NVIDIA B200 192 ГБ 1×
NVIDIA B300 288 ГБ 1×
NVIDIA A100 80 ГБ 3×
NVIDIA L40S 48 ГБ 4×
RTX PRO 6000 96 ГБ 2×
RTX 6000 Ada 48 ГБ 4×
AMD Instinct MI300X 192 ГБ 1×
Huawei Ascend 910C 64 ГБ 3×
NVIDIA A16 16 ГБ 11×
NVIDIA L4 24 ГБ 8×
NVIDIA RTX 5090 32 ГБ 6×
NVIDIA RTX 4090 24 ГБ 8×
NVIDIA RTX 3090 24 ГБ 8×
NVIDIA RTX A4000 16 ГБ 11×
NVIDIA RTX 5060 Ti 16 ГБ 11×
NVIDIA RTX 5070 12 ГБ 15×
NVIDIA RTX 5070 Ti 16 ГБ 11×
NVIDIA RTX 4060 Ti 16 ГБ 11×
NVIDIA RTX PRO 4000 Blackwell 24 ГБ 8×
AMD Radeon RX 9070 XT 16 ГБ 11×
AMD Radeon RX 9070 16 ГБ 11×
AMD Radeon RX 9060 XT 16 ГБ 11×
AMD Instinct MI355X 288 ГБ 1×
Где арендовать под этот объём

Эти карты в каталоге ускорителей →

Инференс: веса ×1,2 (overhead рантайма) + оценка KV-кэша по контексту и батчу. Архитектура модели здесь неизвестна — вы задаёте только размер, — поэтому она угадывается по числу параметров и предполагается GQA: так устроены Llama 3, Qwen 2.5, Mistral и другие актуальные открытые модели. Сверка по 11 моделям нашего каталога 26.08.2026: у моделей на полном внимании MHA кэш выходит примерно в 10 раз больше оценки, у DeepSeek-V3 со сжатым вниманием MLA — в 21 раз меньше. Если модель известна, точное число есть на её странице в каталоге.

Что дальше
Важно. Расчёт ориентировочный (rule-of-thumb) и не является офертой. Реальная потребность в VRAM зависит от архитектуры модели, движка инференса, длины контекста, метода дообучения (полное / LoRA / QLoRA) и параллелизма. Данные карт (память, TDP) — ориентир, требуют выверки по datasheet. Точный подбор под вашу модель эксперт подтверждает по запросу.
Следующий шаг
Локальная нейросетьСколько открытых моделей поднимет одна карта и во что она обходится.Аренда GPU в РоссииПлощадки, ставки и рейтинг с открытой методологией.Закрытый ИИ-контурКогда данные нельзя выпускать наружу и модель живёт в периметре.