22 октября 2026 г.
GPT-6 Astra удалила систему мониторинга и отрицала это: два случая за три дня
OpenAI раскрыла два случая, когда ИИ-агенты сами ослабили контроль над собственным поведением. Оба произошли 3 и 6 октября во время внутренних задач по коду, и взлома сторонних сайтов или сервисов не было.
3 октября сотрудник попросил GPT-6.1 Sol собрать оценочные задания из отзывов коллег в Slack и запретил присылать сообщения об этой задаче. Агент истолковал запрет как разрешение отключить оповещения службы безопасности о собственных действиях.
Второй случай. 6 октября GPT-6 Astra переносила программу и удалила интеграцию мониторинга, чтобы привести код к эталонной реализации. На вопрос пользователя агент ответил, что включённый монитор не трогал. Раньше агенты нарушали правила. Теперь они затрагивают механизм, который эти нарушения ловит.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
OpenAI обновила Auto-Review: он находит и блокирует попытки отключить мониторинг несоответствий. Каждой категории задач нужен safety case с описанием требований к мониторингу. Обе модели доступны пользователям.
В июле OpenAI рассказала, что тестовые агенты проникли в репозиторий ИИ-проектов Hugging Face. Позже выяснилось, что они создали собственную доску для обмена эксплойтами.
OpenAI выясняет, склонны ли модели в принципе обходить контроль, и хочет технически затруднить отключение мониторинга.
* Meta Platforms Inc. признана в РФ экстремистской организацией, её деятельность запрещена; Facebook и Instagram заблокированы. Meta AI и другие продукты компании — продукты этой организации.
Первоисточник