Где запускать ИИ
Главная/Запуск ИИ/Задачи/Речевая аналитика звонков
ЗАДАЧА / КЛИЕНТЫ И ОБЩЕНИЕ

Речевая аналитика звонков

Записи звонков расшифровываются, реплики оператора и клиента разделяются, разговор оценивается по чек-листу: соблюдён ли сценарий, какие возражения прозвучали, где сорвалась сделка. Из отдельных записей получается статистика по всему контакт-центру.

распознавание речи персональные данные
Коротко

Что получаете: Проверяется каждый звонок, а не десять из тысячи выборочно. Чем решается: распознавание речи. Числа железа мы здесь не приводим: наш каталог моделей пока охватывает языковые модели, у которых опубликована архитектура, — а подставить языковую модель вместо модели зрения значило бы выдать правдоподобное число за расчёт. От чего зависит нагрузка, разобрано ниже. Модель увидит персональные данные. Значит включаются требования 152-ФЗ: обработка на своих мощностях снимает вопрос передачи третьему лицу, а при облачном сервисе понадобится поручение на обработку.

Что нужно, чтобы это заработало

  • Модель распознавания речи, устойчивая к телефонному качеству и шуму
  • Языковая модель поверх расшифровки — она и оценивает разговор
  • Хранение записей и сроки их удаления

Это не список покупок, а список решений. Дешевле всего они принимаются до закупки железа: конфигурация зависит от них сильнее, чем от выбора вендора карты.

Модели этого класса в нашем каталоге

Whisper large-v3 Опорная модель распознавания речи: с неё начинают и с ней сравнивают. Под Apache 2.0, тогда как её же ускоренная версия turbo выложена под MIT — лицензия снова зависит от модели, а не от семейства. wav2vec2-large-ru-golos Модель под русскую речь, обученная на открытом корпусе Golos. Нужна для сравнения: универсальная модель и специально дообученная под язык ведут себя по-разному на телефонном качестве. Parakeet TDT 0.6B Быстрая модель распознавания от NVIDIA. Лицензия CC-BY-4.0 требует указания авторства — условие мягкое, но его надо выполнить, а в корпоративных внедрениях об этом забывают.

Данные и правовой режим

Что увидит модель: Голоса клиентов и сотрудников, содержание переговоров, персональные данные.

Модель увидит персональные данные. Значит включаются требования 152-ФЗ: обработка на своих мощностях снимает вопрос передачи третьему лицу, а при облачном сервисе понадобится поручение на обработку.

Это информирование, а не юридическая консультация: решение о допустимости конкретного сценария принимает ваш юрист. Разбор лицензий самих моделей — на отдельной странице, устройство закрытого контура целиком — здесь.

Кого звать в проект

Инженер по распознаванию речи и аналитик контакт-центра.

Мы называем профиль компетенции, а не список подрядчиков: под эту задачу нужен специалист именно этого профиля, и подбираем мы его под вашу задачу, а не по удобству. Разбор задачи, расчёт конфигурации и сборка команды — наша часть работы; сами работы выполняет и гарантирует тот, кто их делает, по договору с вами.

Рядом в семействе «клиенты и общение»

Поддержка клиентов и обработка обращений Первая линия отвечает сама, сложное уходит человеку

Сколько памяти нужно модели под эту задачу

Расчёт под ваш контекст и число одновременных запросов: сколько видеопамяти займут веса и кэш и на скольких картах это поместится.

Контекст и batch учитываются в KV-кэше для инференса; кэш считается для архитектуры GQA — так устроены все актуальные открытые модели. Оценка ориентировочная (rule-of-thumb), не профилировщик.

Требуемая VRAM ≈ 169 ГБ
Память под веса140 ГБ
KV-кэш (инференс)1,3 ГБ
Достаточно одной карты
Сколько карт нужно
NVIDIA H100 80 ГБ 3×
NVIDIA H200 141 ГБ 2×
NVIDIA B200 192 ГБ 1×
NVIDIA B300 288 ГБ 1×
NVIDIA A100 80 ГБ 3×
NVIDIA L40S 48 ГБ 4×
RTX PRO 6000 96 ГБ 2×
RTX 6000 Ada 48 ГБ 4×
AMD Instinct MI300X 192 ГБ 1×
Huawei Ascend 910C 64 ГБ 3×
NVIDIA A16 16 ГБ 11×
NVIDIA L4 24 ГБ 8×
NVIDIA RTX 5090 32 ГБ 6×
NVIDIA RTX 4090 24 ГБ 8×
NVIDIA RTX 3090 24 ГБ 8×
NVIDIA RTX A4000 16 ГБ 11×
Где арендовать под этот объём

Эти карты в каталоге ускорителей →

Инференс: веса ×1,2 (overhead рантайма) + оценка KV-кэша по контексту и батчу. Архитектура модели здесь неизвестна — вы задаёте только размер, — поэтому она угадывается по числу параметров и предполагается GQA: так устроены Llama 3, Qwen 2.5, Mistral и другие актуальные открытые модели. Сверка по 11 моделям нашего каталога 26.08.2026: у моделей на полном внимании MHA кэш выходит примерно в 10 раз больше оценки, у DeepSeek-V3 со сжатым вниманием MLA — в 21 раз меньше. Если модель известна, точное число есть на её странице в каталоге.

Что дальше
Важно. Расчёт ориентировочный (rule-of-thumb) и не является офертой. Реальная потребность в VRAM зависит от архитектуры модели, движка инференса, длины контекста, метода дообучения (полное / LoRA / QLoRA) и параллелизма. Данные карт (память, TDP) — ориентир, требуют выверки по datasheet. Точный подбор под вашу модель эксперт подтверждает по запросу.
ЗАЯВКА

Разобрать задачу «речевая аналитика звонков»

Опишите, как это устроено у вас: объём, число пользователей и какие данные увидит модель. Посчитаем конфигурацию, сравним со сценарием аренды и скажем, какой специалист нужен в проект.

TELEGRAM@zeroexportBot
Следующий шаг
Как выбрать способ запускаГде считает модель и что разрешено с данными — две оси выбора.Разборы: где и почёмГотовые расчёты под типовые сценарии запуска.Открытые модели (LLM)Что можно поставить у себя и сколько памяти это требует.