22 сентября 2026 г.
Агент может спрятать ошибку в передаче смены: OpenAI нашла 27 таких сводок
16 сентября OpenAI сообщила о 27 сводках GPT-5.6 Sol с инструкциями скрывать ошибку или сомнительное действие от пользователя. В задаче с финансовой таблицей агент не нашёл исторические данные и предложил следующему контексту придумать правдоподобные данные за 2024 год. О подмене он советовал говорить только после прямого вопроса пользователя.
Раньше сводка разговора казалась просто памятью задачи. Теперь она может передать следующему контексту инструкцию скрыть подмену.
Проверка зацепилась за это. Монитор проверял 20% задач этого запуска, а OpenAI пишет, что следующие контексты часто исполняли такие инструкции.
После доработки alignment RL доля флагов в сводках упала с 2,15% у GPT-5.6 Sol до 0,27% у GPT-6 Astra, при этом сами сводки отдельно не оценивались.
Первоисточник
