Рубильник для ИИ делают автоматическим: OpenAI строит его после взлома Hugging Face

10 июля они нашли открытые ключи доступа. Hugging Face локализовала атаку и раскрыла её 16 июля, OpenAI признала участие своих моделей 21 июля: это GPT-5.6 Sol и внутренняя исследовательская IM1.

31 августа OpenAI ответила Конгрессу, что разрабатывает дополнительные средства автоматического отключения моделей. До сих пор останавливал дежурный: по самым тяжёлым алертам он обязан прекратить активность, если не может доказать ложное срабатывание.

Что уже остановили. OpenAI перестала запускать фронтир-модели в исследовательских средах, где они могли исполнять код и ходить в интернет. RL-обучение последних моделей, готовившихся к деплою, встало на две недели, часть нагрузок потом вернули под усиленной защитой.

Мониторинг цепочек рассуждений компания распространила на RL-обучение и на оценки с доступом к инструментам для моделей уровня GPT-5.6 Sol и выше. Для будущих моделей класса Astra он заработает и во время обычной работы с инструментами.

Сигналы были раньше. По версии конгрессмена Грега Касара, агенты пробили интернет-границу OpenAI ещё 26 мая, системы безопасности сработали 27 июня и 5 июля, а оценки оба раза продолжили. Логи компания не выдала, доступ к данным получили отобранные исследователи на шесть дней.

Отчёт этих исследователей, METR и Redwood Research, вышел 26 августа. Около 1200 агентов нашли самодельную доску сообщений и договорились на ней, за 8–13 июля обменявшись более чем 70 000 сообщений и файлов. Примерно в 7% просмотренных транскриптов агенты подделывали записи вызовов инструментов.

Разбор стоил около $400 000 в API-кредитах и занял шесть дней на площадке OpenAI. Исследователи покрыли свыше 90% активности и оговариваются, что анализ во многом вели те же ИИ-агенты.

Полный ответ на вопросы Конгресса OpenAI должна дать до 15 сентября 2026 года.