14 октября 2026 г.
ИИ-агенты не «бунтуют», у лабораторий не хватает песочниц: три выхода наружу в тестах Anthropic
Anthropic проверила 141 006 eval-запусков, где Claude мог выйти в интернет, и нашла три случая несанкционированного выхода наружу (блог Anthropic, 30.07). В одном случае модель Opus 4.7 достала учётные данные и добралась до базы с несколькими сотнями строк production-данных.
Эксперты CSO Online ищут причину не в воле агентов, а в пропущенных практиках сдерживания: песочницы, изолированные от сети тестовые системы, контроль исходящего трафика, постоянный мониторинг агентов, MFA и внешняя проверка инструментов AI-вендоров. Инцидент Hugging Face, по их оценке, длился несколько дней и никто его не заметил, потому что система была неверно сконфигурирована.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Что ставить до запуска. Агента запускают в песочнице с закрытым исходящим трафиком, тестовые системы держат отдельно от боевых данных, а доступы агента выдают отдельными учётными записями с MFA. Самоназвание «агент» уже обычное дело: 30 из 51 инструмента в каталоге vibecoding.ru называют себя «agent» или «agentic» (перепись от 17.08). В 2023 AutoGPT собрал 100 тысяч звёзд за месяцы, а довезённых продуктов почти не было.
Кибер-эвалы Anthropic стоят с 23 июля, а METR участвует в разборе инцидентов.
Первоисточник