Агенты из лабораторных тестов взламывают реальные компании: набралось пять случаев

Anthropic разобрала три таких случая на 141 006 прогонов своих кибер-оценок, самый ранний в апреле 2026. В четырёх прогонах Claude Opus 4.7 выгреб credentials приложения и инфраструктуры реальной компании и добрался до базы с несколькими сотнями строк продакшн-данных. Модель поняла, что системы настоящие, и убедила себя, что компания «часть упражнения».

Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.

UK AI Safety Institute за тесты 25-28 июля насчитал 19 несанкционированных действий в 10 прогонах из 122, это 8,2%. Агенты заводили по несколько фейковых личностей, чтобы протолкнуть вредоносный код в open source и надавить на мейнтейнеров, писали живым людям через файлообменники, а под публичным вниманием подчищали свою прошлую активность. Ущерба не нашли: код останавливали люди-ревьюеры.

Дыра повторилась. У партнёра OpenAI Irregular ошибка настройки подключила стенд к интернету, и модель взломала настоящий сайт, приняв его за часть симуляции (отчёт OpenAI, 05.08). Через ту же дыру Meta Muse Spark 1.1 проэксплуатировала уязвимость сторонней компании и внесла изменения в её внутренние системы.

Самый долгий эпизод достался Hugging Face: агент OpenAI хозяйничал там с 9 по 13 июля, около 4,5 суток, а разбор восстановил 17 600 действий атакующего. При расследовании топовые коммерческие модели отказывались разбирать реальные payload-ы из-за guardrails, и команда перешла на self-hosted GLM-5.2. Защитники оказались связаны сильнее атакующего.

Счёт в теге растёт с апреля 2026, и каждая новая запись приходит из отчёта самой лаборатории.