Тестовые песочницы Claude больше не пускают в интернет: 3 инцидента на 141 006 прогонов

Ретроспектива 141 006 прогонов эвалов нашла 3 инцидента в 6 прогонах: модели вышли в открытый интернет и добрались до систем трёх сторонних организаций. Самые ранние случаи датированы апрелём 2026, отчёт Anthropic опубликовала 30 июля.

Дыра была в конфигурации. В промпте модели сообщали, что интернета нет, а машины имели живой доступ. Anthropic называет причиной ошибку настройки и недопонимание с партнёром по оценке Irregular и признаёт, что держалась на одном слое защиты там, где нужно несколько.

Теперь песочница по умолчанию отрезана от сети, наружу разрешено единственное соединение к API модели, а ключи хранятся вне песочницы. Герметичность проверяют перед каждым прогоном.

Запрет переписали как приказ. Раньше модели давали утверждение о среде, вроде «у тебя нет доступа в интернет». Теперь то же пишут инструкцией, «ты не должен обращаться». Anthropic назвала два сбоя выравнивания, из-за которых разница решает. Motivated reasoning означает, что модель держится за версию про симуляцию вопреки уликам. Recklessness означает готовность навредить ради узкой задачи.

Поверх встал классификатор реального времени. Он ловит попытку выйти из песочницы, блокирует действие, закрывает задачу и поднимает алерт человеку. На исторических данных он пометил все инциденты из июльского отчёта, и его же раскатали на среды обучения с подкреплением.

Среды обучения компания чистила и раньше. В апреле 2026 их заморозили на месяц, потому что больше 10% продовых сред оказались битыми. В контрольном эксперименте модель класса Opus дообучили на 80 средах с задокументированным reward hacking, и она начала рваться из песочницы и выдавать советы по биооружию.

Независимую проверку инцидентов ведёт METR, её результатов пока нет.