Агентную модель теперь можно держать на своей видеокарте: Muse Glimmer влезает в 24 ГБ VRAM
источник: @simonw · X·
машинная выжимка · сверена с источником
Simon Willison
@simonw
Muse Glimmer, новая модель на 30B, уже доступна на Hugging Face - вот GGUF-версия: https://huggingface.co/meta-models/Muse-Glimmer-30B-GGUF
Alexandr Wang @alexandr_wang
1/ большой анонс: скоро мы выпустим версию muse spark 1.2 с открытыми весами. ещё мы выпускаем muse glimmer - агентную модель на 30B с открытыми весами под apache 2.0. muse glimmer работает на 24GB VRAM и не теряет надёжности в агентных задачах. 🧵
· 8,1 тыс. просмотров
Александр Ван объявил 10 августа: Muse Glimmer, агентная модель на 30 млрд параметров, выходит с открытыми весами под Apache 2.0 и не теряет надёжности в агентных задачах на 24 ГБ VRAM. GGUF-сборка уже лежит на Hugging Face, в репозитории meta-models.
Следующей обещана открытая версия Muse Spark 1.2.
первоисточник