17 ноября 2026 г.
DGX Spark HPC Developer Kit: локальные модели до 700 млрд параметров на рабочем столе
NVIDIA с 16 ноября продаёт комплект из 4 DGX Spark для локального запуска моделей до 700 млрд параметров с квантованием NVFP4.
Четыре DGX Spark соединяются в кольцо без отдельного коммутатора. NVIDIA заявляет для комплекта 512 ГБ памяти и 20 ТБ NVMe.
Каждый мини-ПК работает на GB10 Grace Blackwell, а между собой устройства общаются через ConnectX-7. NVIDIA приводит DeepSeek V4.1 как пример модели, которую можно запускать на таком комплекте с NVFP4.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Что даёт кольцо. В тесте NVIDIA от 22 октября Qwen3.8-27B с NVFP4 выдавала 11,86 токена/с на одном Spark. На четырёх скорость выросла до 32,82 токена/с. Компания использовала llama-benchy с входом 8192 токена, выходом 256 токенов и одним одновременным запросом, без speculative decoding.
Кольцо NVIDIA рекомендует прежде всего для запуска одной модели с распределением вычислений между устройствами. Для MPI-задач, где каждому узлу нужен прямой обмен с любым другим, компания рекомендует коммутатор.
Как собрать комплект. Четыре системы и кабели продаются через OEM-партнёров и NVIDIA Marketplace. Перед настройкой устройства обновляют через DGX Dashboard. Затем четырьмя кабелями QSFP112 DAC в Ethernet mode соединяют port 0 каждого Spark с port 1 следующего, замыкая последнее устройство на первое.
В инструкции NVIDIA Build от 16 ноября настройка идёт через Configure Manually. На первом Spark клонируют репозиторий eugr/spark-vllm-docker и запускают ./setup-cluster.sh с четырьмя LAN IP в порядке подключения кабелей и флагами --topology ring --mtu 1500. Сначала выполняют запуск с --dry-run, затем без него.
Локальную работу вместо очереди на общий кластер уже использует группа Хартвига в UC Berkeley. По данным NVIDIA от 16 ноября, лаборатория разместила Nemotron 3 Super 120B-A12B с NVFP4 на одном Spark для LoRA-дообучения на химических данных. Раньше исследователи ждали доступа к кластеру несколько дней, теперь проводят локальные сессии обучения по 8–24 часа.
NVIDIA готовит инструкцию по установке HPC SDK с GPU-компиляторами C, C++ и Fortran, библиотеками и MPI-инструментами.
Первоисточник