25 сентября 2026 г.
Защиту ИИ-агента можно мерить до и после: run-assert-eval повторяет те же тесты
24 сентября Microsoft представила run-assert-eval: в примере риск утечки данных упал с 30,0% до 5,9%. Навык для VS Code связывает поиск риска, eval-тесты и policy, которая блокирует опасные действия.
Сначала агент проходит сценарии без ACS policy. Затем policy оборачивает рискованные tools, а инструмент повторяет те же проверки с неизменными тест-кейсами и judge.
Как поставить. Навык ставится командой `npx skills add responsibleai/ASSERT --skill run-assert-eval --yes`. Для CI Microsoft дала отдельный `wire-assert-ci`, а для запуска нужен Python 3.11+.
ACS подходит агентам, чьи рискованные tools можно обернуть. Агент, который только отправляет запросы модели, для такой проверки не годится.
Microsoft уже добавила 7 рабочих областей и 14 наборов рисков для ASSERT.
Первоисточник
