Где запускать ИИ
Главная/Запуск ИИ/Каталог моделей/T-lite-it-1.0
МОДЕЛЬ / Т-ТЕХНОЛОГИИ

T-lite-it-1.0

Младшая российская модель: запускается на одной карте, годится для проверки сценария на русских документах.

российская веса открыты
Коротко

Модель на 7,6 млрд параметров. При режиме «INT8, контекст 8192 токена, восемь одновременных запросов» нужно 12,9 ГБ памяти — это 1× NVIDIA A16. Доступ к весам: веса скачиваются свободно. Лицензия: лицензия в карточке не указана. Проверить сценарий до закупки можно на арендованной карте.

Характеристики

Сняты роботом из карточки модели и файла конфигурации, которые публикует сам автор. Ревизия fbabc76f3214. Проверено 02.09.2026.

РазработчикТ-Технологии
Параметры7,6 млрд
Слоёв28
Голов внимания28
KV-голов4
ВниманиеGQA — общие ключи на группу голов
Контекст32 768 токенов
Память на токен контекста 0,057 МБ
Разрядность весовBF16
Доступ к весамвеса скачиваются свободно
Первоисточник карточка модели

Сколько нужно памяти

Считается по снятой архитектуре модели: веса плюс KV-кэш под контекст, с надбавкой на накладные расходы рантайма. Меняются только длина контекста и число одновременных запросов — и требование к железу уезжает в разы. Именно поэтому «столько-то гигабайт под модель» без указания нагрузки ничего не значит.

Сценарий Контекст Одновременно FP16 / BF16FP8 / INT8INT4
Один пользователь, короткий запрос 4 096 1 18,5 ГБ
1× NVIDIA L4
 9,4 ГБ
1× NVIDIA A16
 4,8 ГБ
1× NVIDIA A16
Небольшая группа 8 192 4 20,1 ГБ
1× NVIDIA L4
 11 ГБ
1× NVIDIA A16
 6,4 ГБ
1× NVIDIA A16
Отдел, длинные документы 32 768 8 33,3 ГБ
1× NVIDIA L40S
 24,2 ГБ
1× NVIDIA RTX 5090
 19,6 ГБ
1× NVIDIA L4
Много пользователей, длинный контекст 32 768 32 78,4 ГБ
1× NVIDIA H100
 69,3 ГБ
1× NVIDIA H100
 64,7 ГБ
1× NVIDIA H100

KV-кэш считается в 16 битах даже там, где веса ужаты сильнее: кэш почти никогда не квантуется вместе с весами. Подбор карт — оценка сверху по памяти из нашего справочника ускорителей; скорость ответа, питание и охлаждение считаются отдельно. Подбор идёт по объёму памяти и не учитывает программный стек: Ascend и AMD требуют другого инференс-сервера, чем NVIDIA, и это отдельный разговор при проектировании.

Во что обходится запуск

Во сколько обходится держать эту модель на арендованной карте. Ставка снята с прайса площадки, у неё есть дата.

СВОЯ КАРТА В АРЕНДУ
9 095 ₽/мес
1× NVIDIA L40S — самая дешёвая конфигурация из тех, где модель помещается и где ставку мы наблюдаем. Ставка FirstVDS, пересчёт из суточной ставки при непрерывной загрузке, проверено 02.09.2026.

Ни один наблюдаемый поставщик эту модель по API не отдаёт — сравнить не с чем, и это тоже ответ: пробовать её придётся сразу на своём или арендованном железе. Карты в конфигурации складываются по памяти: собрать из них один работающий узел и получить на нём нужную скорость — отдельная инженерная задача, и её цена сюда не входит. Расчёт идёт по средней нагрузке из таблицы выше: INT8, контекст 8192 токена, восемь одновременных запросов. Свои условия — в расчёте под нагрузку. Вся картина по токенам — на странице цены миллиона.

Что разрешает лицензия

Нашего разбора этой лицензии по первоисточнику пока нет. В карточке модели лицензия вообще не указана. Разобранные лицензии — здесь.

Самая лёгкая модель класса «языковая модель» в каталоге

Размер решает, на чём модель поедет: 7,6 млрд параметров — это меньше, чем у всех остальных 11 моделей этого класса в каталоге. Ряд ниже — модели того же класса по числу параметров; расчёт памяти у каждой свой.

1 T-lite-it-1.0 — эта страница 7,6 млрд
2 YandexGPT 5 Lite 8B Pretrain 8 млрд
3 Qwen3-8B 8,2 млрд
4 Vikhr-Nemo-12B-Instruct-R 12,2 млрд
5 GigaChat-20B-A3B-instruct 20,6 млрд
6 Mistral Small 3.1 24B Instruct 24 млрд
7 Gemma 3 27B Instruct 27,4 млрд
8 T-pro-it-1.0 32,8 млрд
9 Qwen3-32B 32,8 млрд
10 Llama 3.3 70B Instruct 70,6 млрд
11 Qwen2.5-72B-Instruct 72,7 млрд
12 DeepSeek-V3 684,5 млрд

Что дальше

Аренда мощностей в РФ Проверить модель на арендованной карте прежде, чем закупать железо Все модели каталога Сравнить размеры, лицензии и требования к памяти в одной таблице Задачи Под какие сценарии эта модель нужна и что ещё для них требуется Закрытый ИИ-контур Что кроме модели нужно, чтобы это заработало на предприятии Расчёт под свою нагрузку Задать свой контекст, батч и разрядность

Сколько памяти нужно этой модели

Расчёт под ваш контекст и число одновременных запросов: сколько видеопамяти займут веса и кэш и на скольких картах это поместится.

Контекст и batch учитываются в KV-кэше для инференса; кэш считается для архитектуры GQA — так устроены все актуальные открытые модели. Оценка ориентировочная (rule-of-thumb), не профилировщик.

Требуемая VRAM ≈ 169 ГБ
Память под веса140 ГБ
KV-кэш (инференс)1,3 ГБ
Достаточно одной карты
Сколько карт нужно
NVIDIA H100 80 ГБ 3×
NVIDIA H200 141 ГБ 2×
NVIDIA B200 192 ГБ 1×
NVIDIA B300 288 ГБ 1×
NVIDIA A100 80 ГБ 3×
NVIDIA L40S 48 ГБ 4×
RTX PRO 6000 96 ГБ 2×
RTX 6000 Ada 48 ГБ 4×
AMD Instinct MI300X 192 ГБ 1×
Huawei Ascend 910C 64 ГБ 3×
NVIDIA A16 16 ГБ 11×
NVIDIA L4 24 ГБ 8×
NVIDIA RTX 5090 32 ГБ 6×
NVIDIA RTX 4090 24 ГБ 8×
NVIDIA RTX 3090 24 ГБ 8×
NVIDIA RTX A4000 16 ГБ 11×
Где арендовать под этот объём

Эти карты в каталоге ускорителей →

Инференс: веса ×1,2 (overhead рантайма) + оценка KV-кэша по контексту и батчу. Архитектура модели здесь неизвестна — вы задаёте только размер, — поэтому она угадывается по числу параметров и предполагается GQA: так устроены Llama 3, Qwen 2.5, Mistral и другие актуальные открытые модели. Сверка по 11 моделям нашего каталога 26.08.2026: у моделей на полном внимании MHA кэш выходит примерно в 10 раз больше оценки, у DeepSeek-V3 со сжатым вниманием MLA — в 21 раз меньше. Если модель известна, точное число есть на её странице в каталоге.

Что дальше
Важно. Расчёт ориентировочный (rule-of-thumb) и не является офертой. Реальная потребность в VRAM зависит от архитектуры модели, движка инференса, длины контекста, метода дообучения (полное / LoRA / QLoRA) и параллелизма. Данные карт (память, TDP) — ориентир, требуют выверки по datasheet. Точный подбор под вашу модель эксперт подтверждает по запросу.
Следующий шаг
Локальная нейросетьСколько открытых моделей поднимет одна карта и во что она обходится.Аренда GPU в РоссииПлощадки, ставки и рейтинг с открытой методологией.Закрытый ИИ-контурКогда данные нельзя выпускать наружу и модель живёт в периметре.