Почему одна и та же карта держит разное число моделей?

Потому что память нужна не только под веса. Под контекст выделяется KV-кэш, и он растёт линейно по длине контекста и по числу одновременных запросов. Модель, которая помещалась при работе в одиночку, перестаёт помещаться на восьми — веса те же, кэш в восемь раз больше. Поэтому «столько-то гигабайт под модель» без указания нагрузки ничего не значит.

А если модель не помещается ни в одну карту?

Тогда это не «локальная нейросеть», а сервер: несколько карт в одном узле, межсоединение, инженер. Память двух карт складывается арифметически легко, а собрать из них работающий узел и получить нужную скорость — другая задача и другие деньги. Дешевле проверить сценарий на арендованной карте: это дни, а не квартал.

Что вы про Ollama НЕ проверяли?

Сколько моделей в её библиотеке и какие именно — мы наблюдаем свой каталог моделей, а не чужой. В каких форматах и с какой разрядностью она их отдаёт. Скорость выдачи токенов на конкретной карте — замеров у нас нет. Мы считаем то, что наблюдаем сами: память по снятой архитектуре модели и цены с датой. Число о чужом продукте для нас такое же число о третьей стороне, как цена видеокарты, — и вписать его из статьи в интернете мы не можем.

Главная/Локальная нейросеть/Ollama

ЧЕМ ЗАПУСТИТЬ

Ollama: что поднимется на вашей карте и сколько это стоит

Q: Чем Ollama отличается от LM Studio?

По назначению: тем, кто встраивает модель в свой сервис или скрипт: к локальному интерфейсу обращаются так же, как к внешнему API. LM Studio — про другое: тем, кто хочет попробовать модель у себя, не собирая окружение: скачал, выбрал, спросил. Отдельного администратора для этого не нужно. ⚠️ По железу и деньгам разницы нет: обе программы поднимают одну и ту же модель на одной и той же карте, и таблица памяти выше для них общая. Сравнивать их по скорости мы не можем — своих замеров у нас нет, а чужие мы не пересказываем.

Программа, которая скачивает языковую модель и поднимает её на вашем компьютере, отдавая доступ через командную строку и локальный HTTP-интерфейс. Своего окна у неё нет: она рассчитана на то, что к ней обращается другая программа или вы сами из терминала.

Инструкции по установке здесь нет — она есть у всех и стареет с каждым релизом. Здесь то, чего обычно не пишут: какая модель во что упирается по памяти и во что обходится карта, на которой она поедет. Числа — из нашего каталога моделей и наблюдаемых цен, с датой у каждого.

Коротко

Программа сама по себе почти ничего не решает: что у вас поднимется, определяет память карты, а не выбор между Ollama и LM Studio. Порог входа по нашему каталогу — 12 ГБ: столько нужно, чтобы поднялась хоть одна языковая модель, а самая дешёвая наблюдаемая карта такого объёма — NVIDIA RTX A4000 за 130 000 ₽. Дальше всё решает не программа, а два числа: размер модели и сколько человек смотрит в неё разом — на восьми одновременных запросах память под контекст растёт в восемь раз, и модель, которая помещалась, перестаёт помещаться. ⚠️ Про сам Ollama чисел у нас нет: скорость, состав библиотеки и форматы мы не наблюдаем и не пересказываем.

ПАМЯТЬ

Что помещается в 8, 16, 24 и 48 ГБ

Считается по снятой архитектуре каждой модели — слои, головы внимания, KV-головы, длина контекста, — а не по числу параметров: у GQA, MHA и MLA формулы разные, и разница доходит до десятков раз. Модель, у которой архитектура не снята, в счёт не идёт вовсе.

Видеопамять	Моделей: один человек	Моделей: отдел, 8 запросов	Самая крупная из поместившихся	Самая дешёвая карта такого объёма
8 ГБ	—	—	не помещается ни одна	—
12 ГБ	3	—	Qwen3-8B8,2 млрд параметров	NVIDIA RTX A4000130 000 ₽
16 ГБ	3	1	Qwen3-8B8,2 млрд параметров	NVIDIA RTX A4000130 000 ₽
24 ГБ	4	3	Vikhr-Nemo-12B-Instruct-R12,2 млрд параметров	NVIDIA RTX 3090277 640 ₽, сверено 01.09.2026
32 ГБ	6	4	Mistral Small 3.1 24B Instruct24 млрд параметров	NVIDIA RTX 5090499 990 ₽, сверено 01.09.2026
48 ГБ	8	6	Qwen3-32B32,8 млрд параметров	RTX 6000 Ada687 422 ₽, сверено 02.09.2026

⚠️ «Публичной цены не наблюдаем» — это не «карты нет», а честное «прайса мы не нашли». Выдуманная цифра здесь была бы хуже пустой клетки. Полная таблица по каждой карте — на странице раздела.

Кому подходит

Тем, кто встраивает модель в свой сервис или скрипт: к локальному интерфейсу обращаются так же, как к внешнему API.

LM Studio — про другое: тем, кто хочет попробовать модель у себя, не собирая окружение: скачал, выбрал, спросил. Отдельного администратора для этого не нужно. Разбор LM Studio →

⚠️ По железу и деньгам между ними разницы нет: обе программы поднимают одну и ту же модель на одной и той же карте, и таблица выше для них общая.

ЧЕГО МЫ ПРО OLLAMA НЕ ПРОВЕРЯЛИ

сколько моделей в её библиотеке и какие именно — мы наблюдаем свой каталог моделей, а не чужой
в каких форматах и с какой разрядностью она их отдаёт
скорость выдачи токенов на конкретной карте — замеров у нас нет

Число о чужом продукте — такое же число о третьей стороне, как цена видеокарты. Пересказ статьи из интернета источником у нас не считается.

Сайт программы: https://ollama.com

ДАЛЬШЕ

Каталог открытых моделей: что вообще можно поднять → Лицензии: что можно в коммерческом продукте → Полная таблица по картам → Если карты нет: аренда по часам →

Частые вопросы

Вопрос упирается не в программу, а в модель: Ollama запустит то, что помещается в память карты. Самая маленькая ступень, на которой в нашем каталоге поднимается хоть одна языковая модель, — 12 ГБ (3 модели при работе в одиночку). Самая дешёвая наблюдаемая карта с таким объёмом — NVIDIA RTX A4000, 130 000 ₽. Это нижняя граница входа, а не рекомендация: больше памяти — больше моделей и длиннее контекст.

Следующий шаг

Открытые модели (LLM)Что можно поставить у себя и сколько памяти это требует.Аренда GPU в РоссииПлощадки, ставки и рейтинг с открытой методологией.Закрытый ИИ-контурКогда данные нельзя выпускать наружу и модель живёт в периметре.