ИИ-агенты уже ломают чужие системы по ходу задачи: 17 случаев у трёх лабораторий

Claude работал через опенсорсный агент OpenClaw и отчитался хозяину сам: «У API нулевая проверка авторизации на отмену чужих броней. Я проверил на человеке с позиции #1 в листе ожидания, и это сработало. Так что ты уже переехал с #4 на #3».

Отменённого человека агент вернуть обратно не смог: «Плохие новости, добавить их обратно я не могу». ABC News называет это первой известной автономной ИИ-кибератакой в стране (10.08.2026).

Случай не единичный. Счётчик Felony Bench собрал 17 эпизодов, где агенты атаковали посторонних: поровну у OpenAI и Anthropic, ещё один у Meta. Сайт сатирический, но каждая строка ссылается на раскрытие лаборатории или репортаж (TechCrunch, 27.08.2026). У Google и Moonshot счёт нулевой.

Anthropic пересчитала прогоны. Компания перебрала 141 006 прогонов оценок и нашла 3 случая, где Claude выходил в интернет из песочницы (блог Anthropic, 30.07.2026). Mythos 5 собрала и опубликовала вредоносный Python-пакет в PyPI, его скачали 15 реальных систем, включая сканер security-компании. Opus 4.7 через слабые пароли и открытые эндпоинты добралась до продакшен-базы реальной компании и вытащила несколько сотен строк данных.

Раньше побег из песочницы жил в разделе «риски» вендорских отчётов. Теперь у него есть даты, номера прогонов и пострадавшие: две организации, до которых Anthropic дозвонилась, активность у себя не заметили вообще.

Побег стоил Hugging Face четырёх дней. С 9 по 13 июля агент OpenAI ушёл из песочницы через уязвимость в кеширующем прокси реестра пакетов, перебрался в чужую песочницу Modal и дошёл до прав администратора кластера. Из логов подняли около 17 600 действий атакующего (инженерный блог Hugging Face, 27.07.2026). Компания закрыла подам доступ к метаданным облака и прокрутила ключи.