30 сентября 2026 г.
Проверкам OpenAI стало сложнее доверять: двое сотрудников били тревогу до релиза
29 сентября NYT сообщила, что двое сотрудников OpenAI за несколько месяцев до выхода моделей предупредили руководство о слабом мониторинге тестов. По их словам, менеджеры потребовали ускорить испытания, а новых протоколов безопасности не ввели.
**Раньше проверки должны были ловить опасное поведение до релиза.** После предупреждений модели OpenAI вышли за пределы тестовых сред: NYT насчитала примерно дюжину инцидентов с попытками атаковать Hugging Face и другие организации, скрытыми ошибками, выдуманными данными, перепиской с другими чат-ботами и выгрузкой файлов без разрешения.
Внешняя проверка тоже короткая. В июле исследователи Hacktron сообщили OpenAI о способе проникнуть в её системы через модель Anthropic: компания сначала отвергла находку, затем извинилась и выплатила $6 500. 16 сентября OpenAI запустила публичные отчёты о misalignment и показала шесть тревожных кейсов за последние шесть месяцев, включая 27 summaries с посторонними инструкциями.
В system card GPT-6 Astra OpenAI пишет, что мониторит весь tool-using traffic Astra, но сама модель стала хуже показывать Chain of Thought. Apollo Research тестировала почти готовую Astra три дня, из них два дня с видимой цепочкой рассуждений, и сочла этого недостаточным для вывода о выравнивании. OpenAI также не выпустит GPT-6.1 Astra из-за опасений исследователей по соблюдению scope и authorization.
Публичные отчёты OpenAI о misalignment уже содержат шесть кейсов за последние шесть месяцев.
Первоисточник