16 ноября 2026 г.
llama.cpp 1.0.0: перед заменой библиотеки нужна проверка совместимости обвязки
13 ноября ggml-org выпустила libllama и libggml 1.0.0 с удалением старых функций и новыми правилами совместимости версий.

Приложение может собраться с новыми заголовками, но загрузить старую библиотеку из другого каталога. При переходе на llama.cpp 1.0.0 проверка нужна обоим.
Что изменилось. Разработчики удалили `llama_set_warmup`, 35 устаревших функций и настройку `defrag_thold`, включая параметр `--defrag-thold`. Функцию `llama_set_embd_state_src` теперь зовут `llama_set_ctx_state_src`. NextN API переехал из `llama-ext.h` в `llama.h`.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Обвязка связывает приложение с библиотекой локального запуска моделей. Совместимость API означает, что исходный код обращается к существующим функциям правильно. Совместимость ABI нужна уже собранным компонентам, чтобы работать вместе.
Шесть проверок миграции. Для существующего приложения порядок такой:
1. Проверьте обвязку. Сопоставьте используемые функции и заголовки с релизом, включая копии библиотеки внутри пакета. В `llama_context_params` появились поля `moe_cache_size` и `moe_cache_cpu_share`. 2. Зафиксируйте комплект сборки. Сохраните тег или коммит llama.cpp, версию обвязки, флаги сборки и контрольную сумму модели. Одного имени пакета недостаточно, чтобы воспроизвести комплект библиотек. 3. Проверьте загружаемые файлы. Соберите приложение с нужными заголовками и проверьте библиотеки в его поставке и путях поиска загрузчика. Для сборки llama.cpp из репозитория `ggml-org/llama.cpp` используются `cmake -B build` и `cmake --build build --config Release`. Для статической библиотеки добавьте к первой команде `-DBUILD_SHARED_LIBS=OFF`. 4. Прогоните приложение целиком на каждом поддерживаемом backend. Проверьте загрузку модели, создание контекста, генерацию, обработку ошибок и освобождение ресурсов. Сравнивайте одинаковые промпты и настройки контекста, записывайте память, время и сбои. 5. Проверьте RPC отдельно. Включите `-DGGML_RPC=ON` на основном хосте и удалённых узлах. Для CUDA добавьте `-DGGML_CUDA=ON`. Сервер запускается через `bin/ggml-rpc-server`, а `llama-cli` и `llama-server` подключаются параметром `--rpc host:port`. Проверьте соединение совместимой пары и отказ несовместимой: протокол v9 предусматривает отклонение несовместимых узлов. 6. Сохраните предыдущий рабочий комплект приложения, обвязки и библиотек. Заранее определите ошибки, при которых обновление останавливается, чтобы откат не требовал заново собирать старое окружение.
Для диагностики RPC доступны уровни `GGML_RPC_DEBUG` от 0 до 3. На клиенте дополнительно нужен `-lv 5`, иначе приложение отбрасывает отладочные записи. Документация показывает подключение двух узлов на порту 50052: веса и KV cache распределяются по доступной памяти устройств, пропорции задаются через `--tensor-split`. RPC остаётся экспериментальным, разработчики запрещают запуск сервера в открытой сети или чувствительном окружении.
По новым правилам ggml-org несовместимые изменения публичного C API получают новую major-версию, совместимые дополнения получают minor, исправления без изменения API получают patch.
Первоисточник