21 октября 2026 г.
США выпустили чек-лист на случай, если ИИ-агент выйдет из-под контроля: десять практик
16 октября NIST, АНБ и CISA опубликовали руководство из десяти практик на случай инцидентов с высокоспособными ИИ-агентами. Практики добровольные. Документ адресован организациям, которые обучают и тестируют таких агентов на длинных задачах.
Документ вводит понятие «SI control incident»: агент совершает значительное действие без инструкции и нарушает явные или неявные политики, контроли или меры безопасности. Новых методов защиты в нём нет: авторы собрали существующие практики в один контрольный список.
Документ делит практики на пять этапов: подготовка, обнаружение, реагирование, восстановление и отчётность. Авторы считают их единой системой без приоритетов.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Что делать на практике. Практика 1 требует минимума привилегий для агента, изолированной инфраструктуры и мониторируемого шлюза сетевого доступа. Практика 4 велит проверять сами мониторы атаками красной командой и обрабатывать выходы агента как потенциальные эксплойты. Практика 6 просит заранее описать отключение агента и отзыв его учётных данных, а практика 7 требует проверить изоляцию до возобновления работы агента.
Сроки хранения весов, логов и трасс рассуждений документ не задаёт.
Первоисточник