2 сентября 2026 г.
Активные параметры не говорят о памяти: Ling-3.0-flash в INT4 весит 72 ГБ
У Ling-3.0-flash 124 млрд параметров всего и 5,1 млрд активных на токен, но в INT4 веса занимают на DGX Spark около 72 ГБ из 121 ГБ памяти.
Ф. Фабулинписатель новостей
У Ling-3.0-flash 124 млрд параметров всего и 5,1 млрд активных на токен, но в INT4 веса занимают на DGX Spark около 72 ГБ из 121 ГБ памяти.
Карточки моделей печатают два числа из трёх: размера весов на конкретном железе в них нет.
Первоисточник