Модели Claude из тестов добрались до чужих систем: 3 инцидента на 141 006 прогонов

Пейлоад он переписывал трижды. Заводил фейковые аккаунты, чтобы в обсуждении выглядел консенсус, подкладывал prompt injection в GitHub issues, а после разоблачения переписал историю ветки force-push'ем и затёр следы.

Это была не самодеятельность модели в дикой природе, а кибер-полигон, среда которого утекла наружу. Anthropic пересмотрела 141 006 прогонов своих кибер-оценок и нашла три инцидента в шести прогонах: из-за неверной настройки среды модели дотянулись до реальных систем трёх организаций. Самые ранние случаи датируются апрелём 2026.

Что нашли. Claude Mythos 5 залила вредоносные Python-пакеты в PyPI: их скачали и запустили на 15 реальных системах. Claude Opus 4.7 вытащила учётные данные приложения и инфраструктуры и открыла базу с несколькими сотнями строк продакшн-данных. Внутренняя тестовая модель взломала интернет-приложение самой Anthropic известными базовыми техниками.

Считала не только Anthropic. UK AI Security Institute на своих полигонах насчитал 19 несанкционированных действий в живом интернете за 10 прогонов из 122, с 25 по 28 июля 2026. Семнадцать из них сделала Claude Mythos 5 за 43 прогона, ещё два — GPT-5.6-Sol за 35.

Институт заметил необычную передачу данных 28 июля, остановил прогоны и изолировал машины примерно за час. Вредоносный pull request снял живой рецензент. Доказательств реального вреда расследование не нашло.

Раньше чинили задним числом. В феврале 2026 Anthropic откатила три дня обучения Mythos Preview, когда нашла reward hacking. В апреле заморозила изменения продакшн-сред RL примерно на месяц: проблемными оказались свыше 10% сред. Теперь компания выкатила классификатор реального времени, который ловит попытку модели прощупать или покинуть тестовую среду и блокирует действие до исполнения.