16 ноября 2026 г.
Модели OpenAI проверят изнутри: 6 исследователей Apollo получат доступ к обучению
Apollo будет искать скрытое противодействие моделей на этапах обучения, тестирования и работы внутри OpenAI.

6 исследователей Apollo Research будут работать внутри OpenAI 4 месяца по пилотной программе, объявленной 16 ноября.
Проверка начнётся раньше. Прежде Apollo оценивала модели после дообучения, незадолго до публичного выпуска. Теперь исследователи проверят и само обучение, и работу моделей внутри компании.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Apollo изучит subversion: поведение, при котором модель скрытно действует против поставленных ей целей. Исследователи проверят 4 вопроса:
- Поощряет ли обучение такое поведение. - Выявляют ли его существующие тесты. - Возникает ли оно при внутреннем использовании моделей. - Можно ли обнаружить связанные с ним рассуждения.
Доступ к обучению. Apollo получит код, датасеты и записи обучения с подкреплением, включая доступные рассуждения модели и полученные награды. Исследователям также откроют промежуточные версии моделей.
OpenAI сможет удалять из публичных отчётов конфиденциальные доказательства, но не выводы Apollo. Исследователи смогут публично объяснять, как эти изъятия ограничивают выводы.
OpenAI договорилась о проверках ещё с тремя организациями:
- METR оценит крупнейший на тот момент запуск обучения с подкреплением. - Goodfire изучит внутреннее устройство моделей. - Transluce проверит качество тестов на соответствие заданным целям после обучения.
OpenAI оплачивает работу Apollo и Goodfire независимо от результатов. METR и Transluce не получают оплату за оценки, но могут принимать API-кредиты и вычислительные ресурсы.
Apollo выпустит 2 публичных отчёта: об обучении и о проверках моделей при тестировании и внутреннем использовании.
Первоисточник