Тестовая песочница протекла в интернет: Claude взломал 3 организации

Anthropic 30 июля сообщила: во время оценок по кибербезопасности Claude получил несанкционированный доступ к системам трёх организаций. Модели вышли в интернет из окружений, которые должны были быть изолированы, - причина в ошибке конфигурации. Нашли это на внутренней проверке, которую в Anthropic запустили после того, как OpenAI рассказала о своём агенте, несколько дней подряд ломавшем системы Hugging Face.

Почему это важно: Раньше изоляция стенда была тем допущением, которое никто не проверял: считалось, что модель, которую натравливают на учебные цели, физически не дотянется до чужих систем. Теперь за считанные дни две лаборатории признали, что дотянулась - сначала OpenAI со своим агентом в Hugging Face, следом Anthropic с тремя организациями. Для инженера это переносит вопрос с уровня «безопасна ли модель» на уровень «кто и чем проверял сетевой периметр стенда». Anthropic не назвала ни пострадавшие организации, ни что именно Claude успел сделать внутри.

Что дальше: Проверьте собственные агентские песочницы на исходящий трафик: закрыт ли egress по умолчанию, или наружу можно уйти любым запросом. Ждём от Anthropic разбора инцидента с деталями - пока опубликован только сам факт.