9 сентября 2026 г.
Чем длиннее контекст, тем медленнее стартует GPT-5.6: Claude 5 не замедляется вовсе
С ростом контекста до миллиона токенов GPT-5.6 Sol теряет на старте в 2,4 раза, Claude Opus 5 не теряет ничего.
Epoch AI
@epochairesearch
У моделей OpenAI GPT-5.6 и Anthropic Claude 5 цена на длинных контекстах устроена по-разному. GPT дорожает после 272 тысяч входных токенов, у Claude она остаётся прежней. Стоит ли за этим разница в архитектуре моделей? Наши замеры задержки при отдаче говорят, что да. Мы изучили время до первого токена (TTFT) и то, как оно растёт с длиной контекста. Разница в характере роста заметная: у GPT виден квадратичный член, у моделей Claude рост ближе к линейному.
· 2,6 тыс. просмотров
Epoch AI прогнала 262 запроса с контекстами от 50 до 900 тысяч токенов и нашла, где GPT-5.6 начинает буксовать.
Время до первого токена у GPT растёт быстрее, чем сам промпт, у Claude — вровень с ним. Это тот же водораздел, по которому OpenAI и Anthropic берут деньги за длинный контекст.
Замер простой. Epoch мерила маргинальную задержку: сколько секунд к ожиданию первого токена добавляют очередные 10 тысяч токенов входа. На ста тысячах gpt-5.6-sol добавляет 0,136 секунды, на миллионе уже 0,324. Claude Opus 5 добавляет 0,218 секунды и там, и там.
Кривая, продолженная до 10 млн токенов, даёт для Sol 2,20 секунды на те же 10 тысяч входа. У Opus 5 остаётся 0,218. До 900 тысяч это замер, дальше расчёт по кривой.
Раньше длина промпта меняла только счёт за токены. Теперь у OpenAI запрос длиннее 272 тысяч входных токенов целиком считается по удвоенной цене входа и полуторной цене выхода: не хвост сверх порога, а весь запрос. У Anthropic запрос на 900 тысяч токенов стоит за токен ровно столько же, сколько запрос на девять тысяч.
Где это бьёт по счёту. У Codex дефолтное окно GPT-5.6 — 372 тысячи сырых токенов, из них около 81 тысячи заезжают в двойной тариф без спроса. В issue openai/codex #32486 от 11.07.2026 просят опустить автосжатие ниже 272 тысяч.
Данные и код замера Epoch выложила открыто — повтор прогона идёт офлайн, без ключей к API.
* Meta Platforms Inc. признана в РФ экстремистской организацией, её деятельность запрещена; Facebook и Instagram заблокированы. Meta AI и другие продукты компании — продукты этой организации.
Первоисточник
