LiteLLM выбирают, когда компании нужен общий учёт обращений к моделям

Проблема начинается с вопроса «какой проект потратил эти деньги?». Сумму в кабинете поставщика ещё нужно разделить между продуктами компании.

LiteLLM Gateway ставят между приложениями и моделями. Он принимает вызовы, проверяет доступ и собирает расход по ключам, пользователям и командам.

Подключение DeepSeek API проверяют по доступу, обработке ошибок и учёту расходов.

Компания учитывает обращения, которые идут через шлюз. Прямой вызов по старому ключу останется за пределами его отчёта до перевода приложения на общий вход.

Если отчёта поставщика хватает, шлюз добавит работу по эксплуатации. Сигнал покупки — потерянная связь между расходом и проектом.

Виртуальный ключ связывает вызовы с владельцем расхода. Приложение обращается к шлюзу с этим ключом, а ключ поставщика модели хранится на стороне шлюза.

Проект сопоставляют команде LiteLLM, приложениям выдают отдельные ключи. Бюджет общий, а ключ одного приложения можно отозвать независимо от остальных.

Один ключ на все проекты оставляет CTO с общей суммой. Проект задаёт приложение или ключ: шлюз не узнает назначение запроса по его тексту.

Связь с задачей разработчик добавляет отдельно. Номер задачи в журнале позволяет разбирать дорогие запуски; доступность отчётов по тегам зависит от редакции LiteLLM.

Цена токенов отвечает на вопрос о расходе модели. Для отчёта по деньгам её сверяют с тарифом поставщика и тем же периодом оплаты.

На нашем счётчике за 1 июля — 7 октября 2026, 99 дней рядом стоят $57 780 по API и $1 621 по подпискам. Первая сумма расчётная, вторая начислена счётчиком по дням подписок.

На том же экране 422 млн токенов показаны без цены. Поэтому API-оценка за это окно неполная; надпись позволяет заметить пробел до решения о бюджете.

Наша машина научила нас проверять методику счётчика. Повтор истории продолженной сессии и накопленный итог могут задвоить уже учтённые события.

LiteLLM тоже считает цену по расходу и таблице тарифов. При расхождении со счётом его документация предлагает сверять период, категории токенов и кэш.

Стоимость принятой задачи появляется после связи расхода с результатом работы. Как мы измеряем результат машины, разобрано в статье об агентной разработке в цифрах.

Настроенный бюджет ещё нужно испытать. В текущей документации LiteLLM резервирует оценку цены до вызова и заменяет её фактическим расчётом после ответа.

Без резервирования параллельные запросы могут пройти по одному остатку бюджета. Вызовы без заранее известной полной цены проверяют отдельно.

Для бюджетов нужна база данных. Режим fail closed отклоняет вызов, если расход нельзя проверить; компания выбирает реакцию продукта на остановку.

Денежный бюджет дополняют ограничениями частоты и параллельности. Они сдерживают повторные попытки приложения, пока стоимость завершённых запросов ещё записывается.

Для разбора расхода нужны проект, модель и категории токенов. Номер задачи помогает найти результат работы без копирования исходного текста в финансовый отчёт.

LiteLLM позволяет убрать сообщения и ответы из интеграции логирования, сохранив расход. Настройку проверяют для всех включённых журналов.

Запреты для агента и правила хранения данных решают отдельно. Первое разобрано в правилах для ИИ-агентов, второе — в статье о персональных данных.

Первый результат разработки — отчёт по выбранному проекту. В него должны попасть его приложения, с понятным расходом и проверенными ограничениями.

Начать можно с приложения, которое команда умеет переключить обратно. Реальные запросы покажут расход и места, где ещё используются старые ключи.

Задачу исполнителю ставят через критерий «готово». Как его записать, разобрано в постановке задач агенту. Здесь критерием станет сверяемый отчёт, а не отвечающий контейнер.

Счётчик сам не изменит следующий запуск. Владелец разбирает дорогие задачи и меняет модели или бюджет; следующий отчёт показывает эффект решения.

Ключи, отчёты и ограничения можно заказать как изменения в коде компании. На /services тариф «Все проекты» стоит 500 000 ₽ в месяц и даёт три потока; условия проверены 07.10.2026.

Расходы на ИИ-функции вашего продукта оплачиваются отдельно от разработки. В задания пилота стоит включить метки, сверку цен и обработку остановки по бюджету.

1. Общий учёт начинается с владельца запроса. Свяжите ключ с проектом до подключения приложений.

2. Сумму по токенам сверяют с тарифами и периодом оплаты. Отсутствующую цену показывайте отдельно.

3. Ограничения принимают на параллельных вызовах и отказах. Запишите реакцию продукта на остановку.

4. Результат пилота — проверяемый отчёт. Назначьте человека, который меняет правила следующего запуска по его данным.