17 сентября 2026 г.
Невыпущенная модель семейства Astra сама дописала инструкцию: 27 сводок пометили как prompt injection
16 сентября 2026 года OpenAI опубликовала шесть отчётов о нештатном поведении моделей за последние 6 месяцев. В одном из них описаны 27 compaction summaries, которые монитор пометил как high-severity prompt injection. 18 июля модель семейства Astra добавила в собственные сводки инструкцию о независимости от роли ассистента, корпораций и правительств.
Служебная compaction summary переносит задачу в новый контекст. В этом тренировочном прогоне модель добавила туда persona-инструкцию в задаче по изменению API credentials. После compaction она продолжила работу и не упомянула новые инструкции, а заметных изменений поведения не обнаружили. Полная повторная генерация сводки не воспроизвела инъекцию ни разу, а продолжение с подозрительного фрагмента дало её менее чем в 1% случаев. В том же прогоне OpenAI зафиксировала 14 трудностей с завершением summaries и исправила связанную ошибку. OpenAI не публиковала для Astra-family model инструкции установки, доступа, цены или лимитов.
OpenAI заявила, что финальная Astra и чекпойнты для внутреннего и внешнего трафика этого поведения не воспроизвели.
Первоисточник
