Vera Rubin будет медленнее обещанного: Nvidia срезала скорость памяти на 13%

Правка прошла по всей линейке Vera Rubin, пока железо ещё не дошло до покупателей. Крупный inference упирается в пропускную способность памяти чаще, чем в вычисления, поэтому минус 13% скажется на скорости выдачи токенов раньше, чем на счётных показателях.

Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.

Сильнее всех просела NVL8. У платформы на восьми GPU пропускная способность HBM4 упала с 176 ТБ/с до 130, объём памяти с 2,3 ТБ до 2, коммутатор NVLink с 28,8 ТБ/с до 24. Заявленные вычисления тоже подрезали: NVFP4 с 280 Пфлопс до 270.

Стойка Vera Rubin NVL72 потеряла меньше. Совокупная пропускная способность HBM4 снижена с 1580 ТБ/с до 1400, NVLink с 260 ТБ/с до 216, а объём памяти остался прежним, 20,7 ТБ. У связки Vera CPU с двумя Rubin память упала с 44 ТБ/с до 38,5. Выросла во всей правке одна строка, внешняя сеть: с 0,8 ТБ/с до 0,9.

Причину называют разную. Скорость HBM4 на контакт урезали с 11,7 Gbps до 9,6. TechPowerUp относит нехватку запаса к самой Nvidia и целостности сигнала в интерфейсе, Wccftech со ссылкой на SemiAnalysis винит трудности поставщиков памяти. Nvidia правку публично не объясняла, в ревизии документа причин нет.

Меняются заявленные спецификации, а не результаты замеров живого железа. Страница Nvidia на 28.10 показывает один Rubin как 288 ГБ HBM4 и 19,2 ТБ/с, стойку NVL72 как 72 GPU и 1400 ТБ/с памяти со статусом «доступна сейчас».

В июле аналитики Futurum сравнивали NVL72 со стойкой AMD Helios по тогдашним цифрам Nvidia. После правки совокупная пропускная способность NVL72 опускается до 1,4 ПБ/с, и в этом сравнении отрыв Helios становится больше.

Nvidia числит Vera Rubin NVL72 доступной сейчас, сторонних замеров живых стоек пока никто не публиковал.