Модель угроз для AI-систем можно взять готовой: Сбербанк выложил свою обновлённую версию

Сбербанк 30 июля выложил в открытый доступ обновлённую модель угроз для систем искусственного интеллекта. Причиной обновления банк называет массовое внедрение генеративных моделей, мультиагентных систем, RAG и LLM-адаптеров плюс усложнение архитектур.

Почему это важно: Свою модель угроз Сбербанк вёл и раньше: новое здесь - что в неё дописали генеративные модели, мультиагентов, RAG и LLM-адаптеры. То есть ровно те узлы, которые за последние два года переехали из демо в прод и тащат за собой внешние источники знаний и агентов с доступом к инструментам. Практику это даёт чужой перечень рисков, с которым можно сверить свой, вместо того чтобы собирать список с нуля под каждую систему. Где скачивать и под какой лицензией, в сообщении не сказано.

Что дальше: Возьмите свой список рисков и пройдите его по разделам про RAG и мультиагентов: отдельно проверьте, что не закрыто на внешних источниках знаний и на агентах, которые ходят в инструменты.