4-битный вывод Nunchaku встроили в Diffusers: квантованные модели без отдельного репозитория

23 июля 2026 Hugging Face объявила: 4-битный вывод Nunchaku работает прямо в Diffusers. Квантованная диффузионная модель поднимается тем же кодом, что обычная: 4 бита на вес вместо 16. Отдельный пайплайн под квантование больше не нужен.

Почему это важно: Раньше 4-битная генерация картинок жила сбоку: свой репозиторий, свои пайплайны, своя привязка к версиям, и апгрейд Diffusers мог всё сломать. Теперь это опция внутри самой библиотеки, и переход на 4 бита не трогает остальной код проекта. Замеры скорости и полный список поддерживаемых моделей и карт - в посте Hugging Face; в самом анонсе-заголовке цифр нет.

Что дальше: Взять свою модель, прогнать один и тот же промпт в fp16 и в 4 битах, сравнить время шага и пик видеопамяти. Потерю качества смотреть на своих сюжетах, а не по чужим примерам.