29 сентября 2026 г.
MCP-агенты смогут проверять источник ответа: ProvenanceGuard достиг 0,858
На 40 медицинских MCP-трейсах ProvenanceGuard получил точность выбора источника 0,858 для 260 утверждений (препринт, 27.08.2026). Метод разбирает ответ на отдельные утверждения, сопоставляет их с результатами tool и блокирует те, которым выбранный источник не соответствует.
Source-blind методы могли подтвердить утверждение, но не привязывали его к конкретному результату tool. ProvenanceGuard хранит полный output tool вместе с `tool_name` и `source_id`, поэтому агент может проверить не только ответ, но и его происхождение.
Проверка в трассе. На 50 контролируемых подменах атрибуции метод заблокировал все ответы, а после repair неверная атрибуция не сохранилась ни в одном. На сложном multi-source тесте точность выбора пары «источник плюс отношение» упала до 0,229: похожие результаты tool всё ещё трудно различить.
На более сложном multi-source тесте block F1 составил 0,846.
Первоисточник