Nunchaku переехал в Diffusers: 4-битный инференс диффузионных моделей теперь без отдельной библиотеки

Hugging Face 23 июля 2026 объявил поддержку Nunchaku в Diffusers: 4-битный инференс диффузионных моделей стал частью основной библиотеки. Отдельный пакет для квантования ставить больше не нужно. Числа ускорения и список поддерживаемых пайплайнов - в самом посте.

Почему это важно: Раньше 4-битная диффузия шла обходным путём: свой пакет, свои обёртки над пайплайном, свой темп релизов и вечный вопрос, какая версия с какой совместима. Теперь тот же режим включается внутри Diffusers, которым и так собран почти весь генеративный стек на Python. Для практика меняется одно: квантованная модель грузится тем же кодом, что обычная, и обновляется вместе с библиотекой.

Что дальше: Прогнать свой пайплайн дважды - в обычной точности и в 4 битах - и сравнить пик VRAM, время шага и качество картинки на своей карте. Без замера на своём железе выигрыш от 4 бит остаётся обещанием из блога.