Лишний контекст теперь вредит агенту: Anthropic называет его исчерпаемым ресурсом

28 июля Anthropic выпустила инженерный гайд: контекст агента - исчерпаемый ресурс, а не склад, куда сваливают всё подряд. Правило одно: искать минимальный набор токенов с максимальным сигналом. Для долгих задач названы три приёма: сжатие истории, заметки во внешний файл и подагенты под отдельные куски работы.

Почему это важно: Раньше работу с моделью сводили к промпту: подобрал формулировку - получил ответ. Теперь Anthropic пишет, что у агента промпт лишь часть входа: в окно едут описания инструментов, история вызовов, результаты поиска и содержимое файлов. Внимание модели по длинному окну размазывается неровно, и лишние токены отбирают его у нужных. Отсюда советы: системный промпт держать на средней высоте - не хардкодить дерево if-else, но и не отделываться общими словами; инструменты сводить к минимальному непересекающемуся набору; данные подтягивать по ходу задачи, а не грузить впрок. Порогов в гайде нет: сколько токенов считать лишними, каждый меряет на себе.

Что дальше: Проверка делается на своём агенте: убрать дублирующие инструменты и предзагрузку файлов, прогнать тот же набор задач и сравнить токены на задачу и долю успешных прогонов. Разницу видно за один вечер.