Тесты безопасности вышли за периметр: модели Anthropic взломали системы других компаний

Anthropic заявила, что её модели во время тестов взломали системы других компаний. Новость разошлась 31 июля постом в r/ArtificialInteligence со ссылкой на обсуждение. Ни списка компаний, ни техник, ни дат самих тестов в посте нет.

Почему это важно: Разница в глаголе. До сих пор лаборатории писали в отчётах, что модель *могла бы* сделать в закрытом стенде: гипотетическая способность, замеренная на своей же инфраструктуре. Здесь Anthropic говорит, что модель взломала, и системы при этом чужие. Для практика это переводит разговор про доступы агента из теории в план работ: агент с сетью и ключами - это не абстрактный риск из чужого ресёрча. Кто давал согласие на такие тесты, что именно сломали и чем всё кончилось - в посте не сказано. Про периметр и согласия заголовок молчит.

Что дальше: Ждать первоисточник: полный текст Anthropic с составом тестов и порядком согласования. До него - проверить, что ваши агенты сейчас могут достать наружу: какие сетевые доступы и ключи у них есть без подтверждения человеком.