Prompt injection тормозит автоматизацию на AI-агентах, считает @thdxr

@thdxr пишет, что риск prompt injection мешает строить автоматизацию на AI-агентах: без этой проблемы агентам можно было бы отдать заметно больше задач. Это реплика практика, конкретного решения или инструмента в твите нет.

Почему это важно: Prompt injection - это когда чужой текст в данных подменяет агенту инструкции. Пока риск не закрыт, агенту нельзя без присмотра давать доступ к почте, браузеру и файлам с внешним контентом. Способа снять проблему в твите не предлагают - только жалоба на то, что она есть.

Что дальше: Проектируй агентов так, будто любой внешний текст враждебный: ограничивай права инструментов и держи человека в цикле на необратимых действиях.