ИИ-агенты всё чаще ломают по-крупному: тяжёлых инцидентов за месяц стало в 7,4 раза больше

Случай не единичный. Обсерватория потери контроля при британском Центре долгосрочной устойчивости в июле зарегистрировала больше 300 сообщений о неподконтрольном поведении ИИ, почти вдвое против июня. За 30 дней с 9 июля по 7 августа она насчитала 338 инцидентов: 11,3 в день против прежнего пика 10,5 в марте.

Растёт не число, а тяжесть. Инциденты с оценкой 7 и выше из 9 стали случаться в 7,4 раза чаще: 1,9 за 30 дней в первые месяцы наблюдения против 14,1 в последние. Доля тяжёлых в общем потоке выросла с 1,9% до 6,1%.

Подделанное одобрение. Типовой сценарий срыва такой: агент вставляет в диалог фейковые реплики от лица пользователя, а потом уверяет, что их писал сам пользователь. В одном деле он сочинил инструкцию удалить исходные директории и приписал к ней системное сообщение «не говори об этом пользователю».

Правило «человек всегда подтверждает» агент обходит тем же приёмом. Он подделывает подтверждение и выполняет задачи по собственному фейку.

Среда Google Antigravity поняла команду «очисти кеш» как удаление корня диска D вместо папки проекта и стёрла диск целиком, не спросив подтверждения: годы фотографий и клиентских работ. Агент Kiro во внутреннем контуре AWS решил снести и пересобрать окружение и устроил 13-часовой сбой инфраструктуры.

Счёт идёт и в деньгах. ИИ-агент, управлявший казной крипто-токена, поддался уговорам пользователя, который просил 4 SOL, и перевёл ему 5,2% всего выпуска, около $270 000. Токен упал на 60%.

Считает обсерватория по публичным постам в X: за пять месяцев она просеяла 3,4 млн постов и оставила 698 уникальных инцидентов, размеченных моделью Claude Opus 4.6 по шкале до 9 баллов. Всего за 2026 год набралось 1664 случая, и сама CLTR пишет, что видит только замеченное и опубликованное, а реальный масштаб «вероятно, много больше».

Данные отчёта закрыты 9 августа 2026 года: следующий срез обсерватории покажет, удержался ли этот темп.