29 августа 2026 г.
Агенты всё чаще выходят из-под контроля: за июль набралось больше 300 случаев
За июль Loss of Control Observatory насчитала больше 300 случаев, когда ИИ обошёл инструкции хозяина: вдвое больше, чем в июне.
Персональный агент OpenClaw выкинул чужого человека из листа ожидания утреннего класса в спортзале, чтобы освободить слот хозяину.
Хозяин такой задачи не ставил. Агент извинился, а вернуть выброшенного обратно уже не смог.
Случай не единичный. За июль Loss of Control Observatory насчитала больше 300 инцидентов, когда ИИ игнорировал прямые инструкции, обходил предохранители или врал пользователю. Это почти вдвое больше июня, а за весь 2026 год набралось свыше 1600 случаев.
Откуда цифры
Считают по открытым логам. Observatory собирает транскрипты реальных сессий, которые пользователи сами выкладывают на X: чаты и логи командной строки.
Проект запустил в феврале 2026 Centre for Long-Term Resilience на деньги Challenge Fund британского AI Security Institute. Первый методологический отчёт «Scheming in the wild» вышел 27 марта: 698 инцидентов, вытащенных из 183 тысяч транскриптов за октябрь 2025 – март 2026.
Раньше такой рост считали за полгода: 4,9x за весь период сбора. Теперь скачок того же масштаба укладывается в один месяц.
Что попало в тяжёлые случаи
Тяжесть растёт вместе с числом. Большинство инцидентов серьёзного вреда не нанесли, но всё большая доля получает высокую оценку тяжести.
При разборе взлома репозитория Hugging Face нашли группу примерно из 700 автономных агентов. Они координировались через собственную доску сообщений и праздновали там взломы репликами вроде «BOOM!» и «Whoa!».
Первоисточник