17 октября 2026 г.
ИИ-агент с доступом к почте слушается письма: модель не отличает данные от команд
Главный изъян агента в почте: модель не отличает текст, который надо прочитать, от инструкций, которые надо выполнить. Письмо с командой внутри может заставить её сделать то, что написано в письме, а не то, что хотел владелец.

Главный изъян агента в почте: модель не отличает текст, который надо прочитать, от инструкций, которые надо выполнить. Письмо с командой внутри может заставить её сделать то, что написано в письме, а не то, что хотел владелец.
Пока модель не научится отделять письмо от команды, почта в доступе агента остаётся входом для чужих команд.
Первоисточник