28 октября 2026 г.
Nemotron 3.5 Transcribe: час русской записи в текст за $0,12 на чужом железе
NVIDIA выложила веса 28.10. По-русски модель путает 2,47% слов, а час записи у хостера стоит 12 центов.
Час русской записи превращается в текст за 12 центов: столько берёт за расшифровку хостер DeepInfra.
NVIDIA открыла веса Nemotron 3.5 Transcribe 28.10 под лицензией OpenMDW-1.1. Русский в её матрице языков стоит на верхнем уровне Leading и закрывает все четыре задачи: расшифровку, перевод с английским в обе стороны, разметку голосов и смесь языков внутри одной записи.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Качество по-русски. WER 2,47% на CoVoST2 и 3,80% на FLEURS, то есть примерно одно спутанное слово из сорока. По-английски 5,33% WER на Open ASR Leaderboard и первое место среди открытых весов.
Без своего железа модель уже раздают хостеры. DeepInfra считает $0,00200 за минуту аудио, то есть $0,12 за час записи, при контексте 65 536 токенов и файле не длиннее часа. Эндпоинты есть ещё у Baseten и Simplismart.
Как поднять у себя. Склонировать репозиторий NeMo Speech, собрать venv на Python 3.13 и отдать чекпоинт через vLLM 0.32.0 командой `vllm serve ./NVIDIA-Nemotron-3.5-Transcribe-30B-A4B --trust-remote-code --dtype bfloat16 --max-model-len 65536 --reasoning-parser nemotron_v3`. Минимум одна H100 на 80 ГБ, работают также A100, H200, L40S и Blackwell: в модели 30 млрд параметров, но на каждый запрос просыпаются около 4 млрд. Дальше сервер отвечает по OpenAI-совместимому API, аудио уезжает в base64 полем `audio_url`, а стиль расшифровки задают обычной фразой в user-сообщении, в примере NVIDIA это «Transcribe the following audio.»
Один чекпоинт закрывает расшифровку 40 языков, перевод 31 языка с английского и обратно, разметку до 8 голосов на 13 языках, ответы на вопросы по записи (пока только по-английски) и таймстемпы по каждому слову. Рядом NVIDIA выложила датасет Granary v2: манифесты на 463 062 часа речи и 48 языков, по три варианта транскрипта на запись.
Под свой домен модель дотягивают адаптером. На открытом бенчмарке индийских медицинских записей Eka Care LoRA уронила ошибку с 22,44% до 12,17% за 14 GPU-часов на одной GB300, рецепт лежит в том же репозитории вместе с готовым Claude agent skill `finetune-speech-llm`.
NVIDIA пишет про модель прямо: офлайновая. Живой поток с микрофона она не ведёт, зато 100 часов записей проходит меньше чем за три минуты на одной RTX PRO 6000 Blackwell.
Локальный запуск через NeMo-Speech.cpp и кванты NVFP4 NVIDIA обещала, но пока не выложила.
Первоисточник