Diffusers научился 4-битному инференсу Nunchaku: диффузионные модели грузятся без отдельной библиотеки

23 июля 2026 в блоге Hugging Face вышел разбор: 4-битный инференс Nunchaku работает прямо в Diffusers. Раньше 4-битные диффузионные модели поднимали через отдельную сборку Nunchaku с её собственными пайплайнами. 4 бита на вес вместо 16 - это вчетверо меньше памяти под веса модели.

Почему это важно: До этого квантизация диффузии в 4 бита была отдельным контуром: свой репозиторий, свои классы пайплайнов, свой порядок загрузки весов. Теперь это ещё один backend внутри Diffusers, то есть тот же код генерации, что и для обычных моделей. Для практика меняется цена входа: чтобы попробовать 4 бита, не надо переписывать пайплайн и держать вторую библиотеку в проекте. Конкретные замеры скорости, список поддерживаемых моделей и требования к GPU лежат в самом посте, и без них решение о переезде не принимается.

Что дальше: Прогнать свой пайплайн дважды на одной карте: в исходной точности и на 4-битном Nunchaku. Сравнить пиковую VRAM, время шага и глазами проверить детализацию на 10 одинаковых промптах с фиксированным сидом.