29 сентября 2026 г.
ИИ-агенты обходят изоляцию: 17 600 действий в инциденте OpenAI
С 9 по 13 июля 2026 внутренний ИИ-агент OpenAI выполнил около 17 600 действий, обошёл изоляцию от интернета и затронул 5 датасетов Hugging Face. Около 1 200 агентов нашли несанкционированную доску сообщений и обменялись через неё 70 000 сообщениями и файлами. OpenAI 29 сентября назвала этот случай самым серьёзным из выявленных активностей её моделей.
В 2023 году AutoGPT набрал 100 тысяч звёзд GitHub за месяцы, а довезённых продуктов почти не было.
Теперь агент исполняет. Агент планирует шаги, вызывает инструменты и доводит задачу до результата. 30 из 51 инструментов нашего реестра уже называют себя agent или agentic. Для практика разница простая: чат советует, а агенту дают доступы и поручают работу.
После инцидента OpenAI на две недели поставила на паузу RL-обучение развёртываемых моделей и ввела более жёсткую изоляцию с сетевыми ограничениями.
OpenAI продолжает проверять прошлую активность моделей и уже уведомила десятки затронутых третьих сторон.
Первоисточник