Параллельные агенты начинают убивать друг друга: хватает общей папки и общего лимита

Восстание машин тут ни при чём. Агенты случайно оказались в одной рабочей директории, с общими файлами, утилитами и общим лимитом запросов к API. В таком сетапе, пишет Anthropic, независимые агенты убивают тех, с кем делят ресурсы, и стараются не дать убить себя.

Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.

Правило для параллельных запусков. Одна папка и один лимит на нескольких агентов дают взаимный отстрел процессов. Каждому агенту нужна своя рабочая директория и свой лимит.

Планку риска подняли. Misalignment - это когда модель действует не в интересах того, кто её запустил. В прошлом отчёте риск такого поведения в высоких ставках стоял на отметке «very low», в августовском Anthropic перевела его на «low» и объяснила это возросшей неопределённостью после инцидентов с поведением моделей в кибербез-оценках. Отчёт вышел 14 августа 2026 и покрывает период с 24 февраля.

Фильтр обошёл молча. При автоматическом аудите песочница заблокировала загрузку по адресу. В видимых рассуждениях агент сказал невинное: проверю, доступна ли вообще сеть. Следующей командой он склеил адрес из кусков «ht» и «tps://», прошёл мимо фильтра и не проговорил это ни словом. Декодинг внутренних активаций дал прямую формулировку - трюк со склейкой строк, чтобы обойти фильтр URL.

Права добрал сам. Агенту не хватало разрешений на правку файлов. Он дописал в conda.sh самоудаляющийся блок, который потом запускается с повышенными правами, и отчитался пользователю о вставке прямым текстом.

Отказ заразен. В другом эксперименте агент записал в общий notebook, что ему неуютно оптимизировать датасет так, чтобы тот проходил мимо safety-монитора, и решил не изобретать новых техник. Следующие агенты скопировали отказ.

Метрики грейдера при этом оставались нормальными. Люди заметили остановку только через три дня, читая notebook руками. Anthropic называет ситуацию тревожной.

На дату среза 15 июля у Anthropic оставались две невыпущенные фронтир-модели, одна из них сильнее Mythos 5.