21 ноября 2026 г.
Большие ИИ-модели на нескольких ПК: Microsoft показала связку через USB4
Microsoft запустила Qwen3-235B-A22B на 3 мини-ПК, соединив их через USB4 для работы над одной моделью.

Три компьютера разделили память и вычисления для запуска одной модели. Microsoft анонсировала RDMA через USB4 19 ноября, но нужная сборка Windows Insider ещё готовится.
Раньше для RDMA требовались специальные сетевые адаптеры и настройка сетевого оборудования. Microsoft предложила соединять ПК кабелями USB4 без отдельного RDMA-адаптера, коммутатора и сторонних драйверов. RDMA передаёт данные напрямую между памятью систем, сокращая участие процессора и обычного сетевого стека.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Что запустили. Microsoft использовала мини-ПК с Ryzen AI Max+ 395 и 128 ГБ памяти на каждом. На трёх машинах компания запустила Qwen3-235B-A22B с 4-битным квантованием, которое сокращает объём памяти для хранения весов. Сценарий рассчитан на запуск локальных моделей, которым тесно на одном компьютере.
| Конфигурация | Скорость генерации | | --- | --- | | Три мини-ПК в демонстрации Microsoft | Около 18,5 токена/с | | Собственная конфигурация AMD | 21,98 токена/с |
Компании использовали разные конфигурации, поэтому эти результаты не дают прямого сравнения скорости. В отдельном замере Microsoft получила задержку обмена малыми сообщениями туда и обратно 28–50 мкс. Это примерно вчетверо меньше, чем при передаче UDP через то же соединение USB4. Поддерживаются линии 40 и 80 Гбит/с.
Как соединить ПК. Каждый компьютер должен иметь прямое соединение с каждым соседом. Для трёх ПК нужны по два порта USB4 на каждой машине, а для большего числа компьютеров количество портов растёт по тому же правилу. Последовательное соединение цепочкой резко снижает производительность.
Каждому соединению нужна отдельная подсеть со статическими IPv4-адресами. Microsoft рекомендует маску /30. Соединение проверяют командой `ndping.exe -s 192.168.10.1` на сервере и `ndping.exe -c 192.168.10.1` на втором ПК.
Microsoft уже опубликовала исходники NetworkDirect provider в репозитории `microsoft/windows-usb4-rdma`. Для сборки нужны Visual Studio 2022 с компонентом Desktop development with C++, Windows SDK версии 10.0.26100 или новее и NuGet CLI. Сначала выполняют `nuget restore src\netdirect.sln -PackagesDirectory packages`, затем `msbuild src\netdirect.sln /m /p:Configuration=Release /p:Platform=x64`.
Provider регистрируют из командной строки администратора командой `ndprov_install.exe install "C:\full\path\to\ndprov.dll"`. DLL должна оставаться по этому пути. Для запуска модели Microsoft предлагает открытый пример на собственном fork llama.cpp с Vulkan и RPC.
После выхода нужной Insider-сборки включение потребует команды `reg add HKLM\SYSTEM\CurrentControlSet\Services\Usb4HostRouter\Parameters /v EnableInterDomainRdma /t REG_DWORD /d 1 /f`, затем `bcdedit /set testsigning on` и перезагрузки. Режим тестовой подписи требует отключения Secure Boot, поэтому Microsoft рекомендует отдельные тестовые ПК.
Microsoft готовит нужную сборку Windows Insider в канале Experimental (Future Platforms).
Первоисточник