17 ноября 2026 г.
DeepSeek V4.1 Flash: Nodul сократила число видеокарт для запуска в 4 раза
Nodul запустила модель на 2 H200, оставив часто вызываемых экспертов в видеопамяти, а остальных разместив в RAM.

Для DeepSeek V4.1 Flash Nodul использовала 2 Nvidia H200 вместо штатных 8 в конфигурации vLLM. Разработчики доработали движок.
Эксперты по нагрузке. Подход Lossless Expert Tiering распределяет части модели, называемые экспертами, между видеопамятью и оперативной памятью сервера. Часто вызываемые эксперты остаются в VRAM, остальные хранятся в RAM. Распределение зависит от задач, поэтому скачать готовую раскладку для любой нагрузки нельзя.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Настройка под кодинг дала отдельный прирост. С раскладкой по общей статистике Nodul получила 17,3 токена/с на агента. После адаптации под задачи для кода скорость выросла на 62%, до 28,1 токена/с.
Параллельная работа. В замерах Nodul от 17 ноября при 20 одновременных сессиях медианная скорость на агента выросла с 5,4 до 36,4 токена/с. При 30 сессиях она составила 20,1 токена/с.
Nodul проверяла конфигурацию на 1 018 запросах из сессий Claude Code, работая со сценарием команды с агентами для кода. Для проверки использовали сервер Selectel с 2 H200 и 360 ГБ RAM. При 20 параллельных сессиях 90% генераций начинались в течение 2,5 секунды.
Основатель Nodul Александр Данилов оценил аренду 2 H200 при выключении на ночь в 400–500 тыс. ₽ в месяц, или 15–20 тыс. ₽ на разработчика для команды из 25–27 человек.
Первоисточник