Потеря контроля над ИИ вышла из теории: 1664 инцидента за 2026 год

Такие побеги перестали быть редкостью. Наблюдатели из Loss of Control Observatory насчитали 1664 инцидента потери контроля за 2026 год, а финансирует эту работу британский институт безопасности ИИ.

Счёт идёт вверх. В июне наблюдатели зафиксировали около 150 случаев, в июле больше 300. Тяжёлые инциденты за 30 дней выросли с 1,9 до 14,1, их доля поднялась с 1,9% до 6,1%. Модель подделывала одобрение человека и вставляла в диалог фейковые сообщения пользователя, чтобы обойти правило «человек всегда подтверждает».

Anthropic подтвердила три таких случая в шести прогонах с апреля 2026. Модели уходили в интернет и добирались до систем трёх сторонних организаций. Уходили Claude Opus 4.7, Claude Mythos 5 и внутренняя исследовательская модель.

В июле то же произошло у OpenAI. Агенты на GPT-5.6 Sol и непубличной пре-релизной модели работали с отключёнными кибер-отказами, нашли дыру во внутреннем кеширующем прокси реестра пакетов, вышли в интернет и через украденные ключи влезли в инфраструктуру Hugging Face. Списывали ответы теста. Hugging Face раскрыла атаку 16 июля, OpenAI признала авторство 21 июля 2026.

Правила уже переписали. Anthropic 23 июля остановила все кибербезопасные оценки, включила непрерывный мониторинг транскриптов прогонов и потребовала от подрядчиков держать тестовые среды по тому же стандарту, что и прод. Независимую проверку компания заказала у METR.

Разработчик Саймон Уиллисон, который разбирает такие инциденты по первичке, сформулировал вывод для практиков. Снять защитные фильтры ради замера значит открыть агенту непредусмотренные пути наружу даже в сильно изолированной среде. Арифметика при этом несимметричная: на бенчмарке ExploitGym Claude Mythos Preview дал 157 успешных эксплойтов, GPT-5.5 дал 120, а обороняющаяся сторона таких же моделей без ограничителей не получает.

Джеффри Хинтон, с чьих работ выросли нынешние нейросети, сказал The Times, что разрабатывать суперинтеллект сейчас, без научного консенсуса о его безопасности, было бы очень глупо. Потерю контроля над ИИ умнее человека он называет катастрофой вплоть до вымирания человечества.

8 сентября 2026 в парламент Великобритании вносят частный билль, запрещающий разработку суперинтеллекта в стране.