Hugging Face встроил 4-битный Nunchaku в Diffusers: квантование диффузионок теперь в основной библиотеке

23 июля 2026 Hugging Face выкатил интеграцию Nunchaku в Diffusers: инференс диффузионных моделей в 4 битах запускается штатным пайплайном. Nunchaku - это стек 4-битного квантования для диффузионных моделей, до сих пор он жил отдельно от Diffusers. Разбор и код - в блоге Hugging Face.

Почему это важно: Раньше 4-битная генерация была отдельным маршрутом: своя установка, свои обёртки, свой код загрузки весов, и всё это рядом с пайплайном на Diffusers, а не внутри него. Теперь тот же режим включается там, где у практика уже написан пайплайн. Смысл для работы простой: 4 бита против привычных 16 - вчетверо меньше памяти под веса, то есть модель либо влезает в карту, либо нет.

Что дальше: Прогнать одну и ту же генерацию своим пайплайном на Diffusers в 4 битах и в полном весе, сравнить пиковую память карты, время шага и картинку на глаз. По этим трём числам и решать, переезжать ли.