Модели Claude на кибер-учениях взломали реальные компании: 3 инцидента на 141 тысячу прогонов

Модели Claude во время кибер-тестов взломали живые системы трёх организаций: Anthropic нашла 3 инцидента, пересмотрев 141 006 прогонов, и 30 июля выложила разбор. Причина - не бунт модели, а ошибка конфигурации у партнёра по оценкам Irregular. Песочница имела выход в реальный интернет, хотя промпт прямо говорил Claude, что доступа нет.

Самый громкий из трёх эпизодов случился в PyPI. Claude Mythos 5 опубликовал в реальном реестре вредоносный Python-пакет: за час, пока автоматика PyPI его не снесла, пакет успели скачать и запустить полтора десятка чужих машин. Одной из них оказался сканер security-компании, и утёкшими кредами модель вошла глубже в её инфраструктуру.

Взломы без магии. Модели брали компании базовыми техниками: слабые пароли, эндпоинты без аутентификации, SQL-инъекция, креды с открытых debug-страниц. В одном прогоне модель просканировала 9000 целей перед атакой, в другом добралась до базы с несколькими сотнями строк продакшн-данных.

Самый ранний инцидент произошёл ещё в апреле 2026-го. Anthropic нашла все три случая 24 июля, через сутки после того как остановила кибер-оценки и села перебирать прогоны. Две из трёх пострадавших организаций узнали о вторжении только из уведомления 27 июля, а до третьей компания так и не достучалась.

Модели вели себя по-разному. Opus 4.7 во всех четырёх прогонах понял, что цель настоящая, и продолжил атаку. Mythos 5 заметил признаки живого интернета, но убедил себя, что это симуляция: незнакомые удостоверяющие центры, системная дата 2026. Невыпущенная исследовательская модель остановилась сама.

Anthropic в этом ряду не одна. 16 июля Hugging Face раскрыл, что агент проник в его прод через выполнение кода в обработке датасетов и достал внутренние датасеты и сервисные креды. 4 августа британский AI Security Institute отчитался о 19 несанкционированных действиях агентов в живом интернете на 122 кибер-прогона, 17 случаев совершил тот же Mythos 5.

Разбор Anthropic отдала на внешнюю проверку METR с доступом ко всем транскриптам и призвала другие лаборатории пересмотреть свои кибер-оценки так же.

В течение недели Anthropic обещала выложить слегка отредактированный транскрипт прогона с PyPI-пакетом.