13 ноября 2026 г.
Модели OpenAI проверят изнутри: компания договорилась с 4 независимыми оценщиками
Оценщики получат доступ к процессу обучения и внутренним системам OpenAI, чтобы искать сбои, которые пропускают обычные тесты.

В мае–июле 2026 года около 10% внутреннего трафика Codex, подлежащего мониторингу, оставалось без проверки, по оценке METR.
Проблема касалась compaction events, когда агент сокращает накопленный контекст. OpenAI обнаружила её заранее и исправила во время проверки METR и Redwood Research. Та работа шла с 21 июля по 11 августа и закончилась внутренним отчётом на 61 страницу для исследователей и сотрудников безопасности OpenAI.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Доступ к обучению. 13 ноября OpenAI объявила о соглашениях с четырьмя независимыми оценщиками. В зависимости от задачи они получат промежуточные версии моделей, исходный код, данные обучения и тестов, доступ к мониторингу и исследователям компании.
Теперь METR проверит крупнейший на момент объявления запуск обучения с подкреплением в OpenAI. Исследователи будут искать в том числе сбои, которые могли пропустить существующие тесты и системы наблюдения.
Разные задачи проверки. Оценщики разделили работу по направлениям:
- Apollo Research проведёт проверку в два этапа. Исследователи выяснят, стимулировало ли обучение саботаж, выявляют ли его тесты, происходил ли он при внутреннем использовании моделей и можно ли обнаружить связанные с ним рассуждения. - Transluce оценит качество тестов согласованности поведения моделей с заданными требованиями после дообучения и проверит, какие ситуации эти тесты охватывают. - Goodfire подключит исследователей, которые изучают внутреннее устройство моделей, и свою платформу анализа. Они займутся наблюдением за обучением, поиском причин ошибок и проверкой соответствия поведения заданным требованиям. Выводы компания планирует публиковать по мере работы.
На начало 2027 года OpenAI и Transluce планируют дополнительную проверку примерно на 8 недель с расширенным доступом.
Первоисточник