13 октября 2026 г.
Cost per Task: цена одной задачи на GLM-5.3 различается у провайдеров в 9 раз
Цена одной агентской задачи на GLM-5.3 различается у провайдеров в 9 раз, и разрыв делает кэш, а не скорость.
Artificial Analysis
@artificialanlys
Доля попаданий в кэш и Cost per Task по провайдерам теперь доступны на Artificial Analysis: Cost per Task для GLM-5.3 (max) расходится у провайдеров примерно в 9 раз, и дело в сочетании доли попаданий в кэш и цены за токены Агентские задачи каждый ход заново отправляют всю историю диалога, поэтому большую часть входных токенов можно кэшировать, и основную долю разрыва в Cost per Task создают цена кэша и доля попаданий в него. Мы и раньше считали Cost per Task по измеренной доле попаданий в кэш, а теперь публикуем её для каждой точки доступа модели, которую отслеживаем. Что нового: ➤ Доля попаданий в кэш теперь видна для всех точек доступа, собственных и сторонних. Мы измеряем её, прогоняя многоходовые агентские задачи по коду и считывая кэшированные токены из ответа каждого провайдера об использовании. Доля попаданий в кэш означает, какую часть кэшируемых входных токенов отдали из кэша. ➤ Cost per Task теперь доступен по провайдерам для моделей с открытыми весами. Мы считаем его из цен каждого провайдера на вход, выход, попадание в кэш и запись в кэш, применяя их к измеренной доле попаданий. Чтобы привести провайдеров к одной мерке для конкретной модели, мы берём одинаковые количества входных, выходных и кэшируемых токенов из прогона этой модели в Intelligence Index. Главное: ➤ Cost per Task на GLM-5.3 (max) расходится у провайдеров примерно в 9 раз: от $0,92 на Makora до $8,68 на Nebius. Оба отдают из кэша почти весь кэшируемый вход (98% и 100%) и берут одинаковую цену за выход ($4,40 за 1 млн токенов), так что разрыв создаёт цена входа. Makora берёт $0,10 за 1 млн кэшированных входных токенов, а Nebius на своих общих serverless-точках скидки на кэшированный вход не даёт и считает весь вход по полной цене $1,40. ➤ Доля попаданий в кэш у 21 провайдера (25 точек доступа) лежит в диапазоне от 41% до 100%. У 15 точек она 98% и выше, у восьми равна 100%: Modal, DeepInfra, Parasail, Together AI, DigitalOcean, Nebius, Novita и собственный API Z AI. Ниже всех Multiverse Computing с 41%, за ним Bitdeer с 50%.
· 29,8 тыс. просмотров
Один и тот же прогон агента на GLM-5.3 стоит $0,92 у Makora и $8,68 у Nebius.
Artificial Analysis 13.10 поставила цену задачи и долю кэша рядом с каждой точкой доступа. Для моделей с открытыми весами теперь видно, у кого тот же прогон дороже и почему.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Дело в кэше. Агент каждый ход заново отправляет всю историю диалога, поэтому почти весь вход можно отдавать из кэша. Makora берёт за миллион кэшированных входных токенов $0,10, Nebius на общих serverless-точках скидки на кэш не даёт и считает весь вход по полной цене $1,40.
Выход у обоих стоит одинаково, $4,40 за миллион токенов. Из кэша оба отдают почти весь кэшируемый вход: 98% у Makora, 100% у Nebius. Девятикратный разрыв делает только цена входа.
Раньше доля кэша была не видна. Artificial Analysis считала по ней цену задачи, но саму цифру не публиковала. Теперь она стоит у каждой точки: замер идёт многоходовыми задачами по коду, а кэшированные токены читаются из ответа провайдера.
По 25 точкам у 21 провайдера доля кэша лежит от 41% до 100%. Полные 100% держат восемь точек, среди них Together AI, DeepInfra и собственный API Z AI. Ниже всех Multiverse Computing с 41% и Bitdeer с 50%.
Счёт по провайдерам Artificial Analysis пока открыла только для моделей с открытыми весами.
Первоисточник