LFM2.5-24B-A2B: локальный агент работает на процессоре ноутбука со скоростью 184 токена в секунду

13 октября Liquid AI выложила LFM2.5-24B-A2B на Hugging Face. Из 24 миллиардов параметров на каждый токен просыпается 2,45 миллиарда, поэтому гигант считает со скоростью середняка. Замер вендора на Apple M5 Max даёт 184 токена в секунду, на AMD Ryzen AI Max+ 395 выходит 114.

Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.

Для практика это значит одно: агент крутится на своём железе, без облака и счёта за токены. Модель знает 16 языков, включая русский.

Как запустить. Одна команда в llama.cpp: `llama-cli -hf LiquidAI/LFM2.5-24B-A2B-GGUF --temp 0.1 --top-k 50 --repeat-penalty 1.05`. В LM Studio карточка ставит модель в один клик. Рекомендованный квант Q4_K_M весит 14,5 ГБ, самый лёгкий Q4_0 занимает 13,6 ГБ. Для Apple Silicon выложен вариант MLX-4bit.

Как подключить агента. Модель отвечает по OpenAI-совместимому адресу, так что локальный агент настраивается четырьмя строками конфига. В Hermes Agent это `model.provider custom`, `model.base_url http://localhost:8080/v1`, `model.default LFM2.5-24B-A2B` и `model.context_length 131072`. Такие же гайды Liquid AI дала для OpenClaw и Pi.

Прошлая LFM2-24B-A2B держала 32 768 токенов контекста. Новая версия берёт 131 072 и обучена на 33 триллионах токенов вместо 17. Поменялся и характер ответа: модель всегда думает вслух, цепочку мыслей шаблон чата включает сам.

По замерам вендора модель берёт 65,01 на BFCLv4 и 80,71 на ToolSandbox, вровень с Qwen3.6-35B-A3B при вдвое меньшем числе активных параметров. На коде разрыв виден. SWE-Bench Verified через OpenCode даёт 51,00% против 66,20% у Qwen, а задачи на знания Liquid AI советует закрывать поиском по документам или вебом.

Пять рантаймов поддержали модель в день выхода: llama.cpp, MLX, vLLM, SGLang и ONNX.