Контекстное окно: почему модели «забывают» части большого запроса

Герджели Ораш объяснил, что деградация контекста и его сжатие напрямую влияют на качество ответов. Понимание этих механизмов помогает практику предсказывать и обходить провалы модели.