./новости · 18 июля 2026 г.
новость
Заполнение контекста лишними токенами даёт модели больше времени на ответ
источник: @nickadobos на X ↗·
машинная выжимка · сверена с источником
Nick Dobos
@nickadobos
Промпт «…………….» заставляет AI думать больше. Сами токены неважны - достаточно просто дать ему больше времени на размышление и позволить compute прогнать вычисления по остальным токенам, чтобы он стал умнее. Кстати, это большая причина, почему работает planning mode. Если заполнить контекстное окно, ты по умолчанию получаешь больше compute.
· 849 просмотров
Разработчик @nickadobos утверждает, что бессмысленные токены в промпте - например, цепочка точек - дают модели больше времени и compute на размышление, и она отвечает точнее. По его словам, содержание этих токенов неважно: модель просто прогоняет вычисления по ним. Тем же он объясняет работу planning mode - заполненный контекст по умолчанию даёт больше compute.
Почему это важно: Это личное наблюдение без замеров и бенчмарка. Автор не приводит ни одного числа: ни выигрыша в качестве, ни на каких моделях проверял. Reasoning-модели с extended thinking сами выделяют бюджет на размышление, поэтому ручной флуд токенами может ничего не дать или впустую съесть контекстное окно. Принимать на веру нельзя.
Что дальше: Проверьте на своей задаче: прогоните один промпт с цепочкой точек и без неё, сравните ответы. Замеров у автора нет - доверять стоит только своему тесту.