BotPsy-0.8B: модель для локального ИИ-агента обошла в тестах модель в 2,5 раза крупнее

Что изменилось. За основу авторы взяли Qwen3.5-0.8B. После дополнительного обучения BotPsy обошла Qwen3.5-2B-Think на пяти из шести агентных тестов авторов, хотя та в 2,5 раза крупнее.

Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.

В замерах Tether AI Research от 11 ноября результаты базовой модели и BotPsy различаются так. Строка многошаговых задач показывает, как модели справлялись с последовательностью действий.

| Тест | Qwen3.5-0.8B-Think | BotPsy | | --- | ---: | ---: | | BFCL v4 | 23,4 | 44,0 | | ACEBench | 30,1 | 58,7 | | τ-bench | 23,2 | 51,5 | | Многошаговые задачи BFCL v4 | 7,5 | 46,1 |

Как запустить. Веса доступны в репозитории `qvac/BotPsy-0.8B`. Для llama.cpp и QVAC SDK авторы опубликовали отдельный репозиторий GGUF с вариантами BF16, Q8_0 и Q4_K_M.

Для Transformers есть готовый Python-пример, проверенный с версией 5.19.0. При вызове шаблона чата нужно передать `enable_thinking=True`: авторы обучали и оценивали BotPsy с рассуждениями, а шаблон по умолчанию их отключает. Пакеты `flash-linear-attention` и `causal-conv1d` включают быстрые ядра, без них модель использует более медленную реализацию.

Для OpenAI-совместимого API авторы дают команду:

```bash vllm serve qvac/BotPsy-0.8B --language-model-only --enable-auto-tool-choice --tool-call-parser qwen3_xml --reasoning-parser qwen3 ```

Клиент подключается к `http://localhost:8000/v1`. Для задач авторы рекомендуют английский: в проверке следования инструкциям на нескольких языках BotPsy получила существенно более низкие результаты на русском и хинди.

Источники: [BotPsy: описание модели, замеры и инструкции Tether AI Research](https://huggingface.co/blog/qvac/botpsy).

Веса BotPsy опубликованы под Apache 2.0, которая допускает коммерческое использование.