28 октября 2026 г.
GigaChat3.1-Audio-10B-A1.8B: аудиомодель Сбера работает на одной RTX 4090
Сбер не отдаёт аудио через API, поэтому путь один: открытые веса под MIT и одна команда запуска.
Мидл-бэкендер Сбера Данила отдал аудиомодели пять своих рутин: разбор доклада, саммари часового видео, протокол встречи, код-ревью и голосовые в задачи.
Настроение и тон говорящего модель читала, а в технике плыла: упоминание Istio разобрать не смогла. Часовое видео пришлось резать на четыре куска по 15 минут с перекрытием в 10 секунд.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Сбер пошёл дальше теста и поставил ту же модель в ИИ-оператора контакт-центра, на нестандартные запросы клиентов. Практику важно другое: открытую версию он может забрать себе.
Ставится одной командой. На 28.10 в списке моделей GigaChat API аудио нет, там генерация и эмбеддинги. Облегчённую GigaChat3.1-Audio-10B-A1.8B Сбер выложил на Hugging Face 14.07 под лицензией MIT, и запускается она строкой `vllm serve "ai-sage/GigaChat3.1-Audio-10B-A1.8B"`.
В тесте хватило одной RTX 4090 на 24 ГБ. Max-model-len пришлось снизить с 32768 до 24576, а gpu-memory-utilization поднять с 0,85 до 0,95. Первый запуск занял около 15 минут, следующие укладывались в 3–5.
Раньше и теперь. Раньше запись сначала прогоняли через распознавание, а текст отдавали языковой модели, и тон говорящего терялся по дороге. Теперь модель слушает сама: открытая версия держит в контексте до 120 минут аудио, большая внутри ГигаЧата берёт записи до 3 часов, отдаёт саммари со ссылками на таймкоды и разделяет участников по голосам.
Карточка модели обещает 90,0% точности по эмоциям на русском наборе Dusha crowd и WER 14,7 на Golos crowd, то есть примерно каждое седьмое слово распознаётся неверно. Тест на пяти задачах лёг туда же: настроение модель ловит, термины теряет.
Открытая версия отстаёт от большой в полтора раза по длине записи: 120 минут против 3 часов.
Первоисточник