Где запускать ИИ
Главная/Запуск ИИ/Задачи/Разбор входящих документов
ЗАДАЧА / ЗНАНИЯ И ДОКУМЕНТЫ

Разбор входящих документов

Документ приходит сканом или PDF, а из него нужно достать реквизиты, суммы, сроки и позиции — и положить в учётную систему. Задача решается связкой распознавания текста и языковой модели, которая понимает, что где написано, даже когда шаблон новый.

связка моделей персональные данные
Коротко

Что получаете: Оператор перестаёт перепечатывать: он проверяет и подтверждает. Что нужно: модель уровня Mistral Small 3.1 24B Instruct при контексте 8 192 токенов и 16 одновременных запросах — это 50,3 ГБ памяти, то есть 1× Huawei Ascend 910C. Модель увидит персональные данные. Значит включаются требования 152-ФЗ: обработка на своих мощностях снимает вопрос передачи третьему лицу, а при облачном сервисе понадобится поручение на обработку. Проверить сценарий до закупки дешевле на арендованной карте.

РАЗБОР ЭТОЙ ЗАДАЧИ
Где её запускать и сколько это стоит
Три варианта исполнения рядом — API, аренда карты, свой сервер — с наблюдаемыми ценами и датами. Аренда карты сравнивается с API на 1 млрд—13,8 млрд токенов в месяц.
Открыть разбор →

Что нужно, чтобы это заработало

  • Распознавание текста, устойчивое к сканам и печатям
  • Мультимодальная модель, если документы приходят картинками
  • Правило, что делать с неуверенным распознаванием: спорное уходит человеку

Это не список покупок, а список решений. Дешевле всего они принимаются до закупки железа: конфигурация зависит от них сильнее, чем от выбора вендора карты.

Сколько железа

Посчитано по характеристикам модели Mistral Small 3.1 24B Instruct под типовую нагрузку этой задачи. Меняются контекст и число одновременных запросов — меняется и требование к железу, поэтому оба числа названы явно.

МодельMistral Small 3.1 24B Instruct
Размер24 млрд
Контекст8 192 токенов
Одновременных запросов16
Веса24 ГБ
Память под контекст21,5 ГБ
Всего памяти50,3 ГБ
Карты1× Huawei Ascend 910C

Доступ к весам модели: веса скачиваются свободно. Подбор карт — оценка сверху по памяти из нашего справочника ускорителей; скорость ответа, питание и охлаждение считаются отдельно, а программный стек под Ascend и AMD отличается от NVIDIA.

Модели этого класса в нашем каталоге

Mistral Small 3.1 24B Instruct Apache 2.0 без порогов и переносимых ограничений — редкость среди моделей этого размера.

Данные и правовой режим

Что увидит модель: Первичные документы контрагентов, суммы, реквизиты, персональные данные подписантов.

Модель увидит персональные данные. Значит включаются требования 152-ФЗ: обработка на своих мощностях снимает вопрос передачи третьему лицу, а при облачном сервисе понадобится поручение на обработку.

Это информирование, а не юридическая консультация: решение о допустимости конкретного сценария принимает ваш юрист. Разбор лицензий самих моделей — на отдельной странице, устройство закрытого контура целиком — здесь.

Кого звать в проект

Инженер по обработке документов: OCR плюс извлечение сущностей.

Здесь указан только тип компетенции, который обычно требуется для такой задачи. Портал не подбирает специалистов или подрядчиков, не собирает команды и не выполняет расчёт конфигурации под конкретный проект.

Рядом в семействе «знания и документы»

Поиск и ответы по внутренним документам Модель отвечает по вашему архиву, а не по интернету Протоколы совещаний и поручения Запись встречи — в протокол, решения и задачи

Сколько памяти нужно модели под эту задачу

Расчёт под ваш контекст и число одновременных запросов: сколько видеопамяти займут веса и кэш и на скольких картах это поместится.

Контекст и batch учитываются в KV-кэше для инференса; кэш считается для архитектуры GQA — так устроены все актуальные открытые модели. Оценка ориентировочная (rule-of-thumb), не профилировщик.

Требуемая VRAM ≈ 169 ГБ
Память под веса140 ГБ
KV-кэш (инференс)1,3 ГБ
Достаточно одной карты
Сколько карт нужно
NVIDIA H100 80 ГБ 3×
NVIDIA H200 141 ГБ 2×
NVIDIA B200 192 ГБ 1×
NVIDIA B300 288 ГБ 1×
NVIDIA A100 80 ГБ 3×
NVIDIA L40S 48 ГБ 4×
RTX PRO 6000 96 ГБ 2×
RTX 6000 Ada 48 ГБ 4×
AMD Instinct MI300X 192 ГБ 1×
Huawei Ascend 910C 64 ГБ 3×
NVIDIA A16 16 ГБ 11×
NVIDIA L4 24 ГБ 8×
NVIDIA RTX 5090 32 ГБ 6×
NVIDIA RTX 4090 24 ГБ 8×
NVIDIA RTX 3090 24 ГБ 8×
NVIDIA RTX A4000 16 ГБ 11×
NVIDIA RTX 5060 Ti 16 ГБ 11×
NVIDIA RTX 5070 12 ГБ 15×
NVIDIA RTX 5070 Ti 16 ГБ 11×
NVIDIA RTX 4060 Ti 16 ГБ 11×
NVIDIA RTX PRO 4000 Blackwell 24 ГБ 8×
AMD Radeon RX 9070 XT 16 ГБ 11×
AMD Radeon RX 9070 16 ГБ 11×
AMD Radeon RX 9060 XT 16 ГБ 11×
AMD Instinct MI355X 288 ГБ 1×
Где арендовать под этот объём

Эти карты в каталоге ускорителей →

Инференс: веса ×1,2 (overhead рантайма) + оценка KV-кэша по контексту и батчу. Архитектура модели здесь неизвестна — вы задаёте только размер, — поэтому она угадывается по числу параметров и предполагается GQA: так устроены Llama 3, Qwen 2.5, Mistral и другие актуальные открытые модели. Сверка по 11 моделям нашего каталога 26.08.2026: у моделей на полном внимании MHA кэш выходит примерно в 10 раз больше оценки, у DeepSeek-V3 со сжатым вниманием MLA — в 21 раз меньше. Если модель известна, точное число есть на её странице в каталоге.

Что дальше
Важно. Расчёт ориентировочный (rule-of-thumb) и не является офертой. Реальная потребность в VRAM зависит от архитектуры модели, движка инференса, длины контекста, метода дообучения (полное / LoRA / QLoRA) и параллелизма. Данные карт (память, TDP) — ориентир, требуют выверки по datasheet. Результат является справочной оценкой, которую нужно самостоятельно проверить на своей модели и программном стеке.
Следующий шаг
Как выбрать способ запускаГде считает модель и что разрешено с данными — две оси выбора.Разборы: где и почёмГотовые расчёты под типовые сценарии запуска.Открытые модели (LLM)Что можно поставить у себя и сколько памяти это требует.