19 сентября 2026 г.
Калифорния берётся за аварийное отключение больших ИИ-моделей: срок экспертам до 16 ноября
Ньюсом подписал указ N-9-26 18 сентября: как встроить в топ-модели аварийное отключение, штат решит к 16 ноября.
Два года назад Ньюсом ветировал закон с требованием аварийного отключения моделей. Теперь он поручил проработать то же самое.
Указ N-9-26 вступил в силу сразу, 18 сентября 2026 года, но компаниям он пока ничего не предписывает. Сначала чиновники должны посчитать, выполнимо ли это технически.
Срок жёсткий. Government Operations Agency вместе с Governor's Office of Emergency Services обязано не позднее 16 ноября 2026 года подать в офис губернатора рекомендации о технической выполнимости поправок к законам штата об ИИ-безопасности. Разрабатывать их поручено вместе с национальными экспертами.
В указе три требования к разработчикам самых больших моделей. Пункт (c) требует создать «kill switch», работоспособность которого на постоянной основе проверяет независимая верификационная организация.
Пункт (a) сажает такие организации физически внутрь лабораторий, для периодических аудитов и оценок. Пункт (d) расширяет список critical safety incidents, о которых ИИ-компании обязаны отчитываться, добавляя туда инциденты с потерей контроля.
**Ставить выключатель сейчас никто не обязан.** До 16 ноября у чиновников штата и внешних экспертов есть время предложить изменения в законодательство Калифорнии, и только потом требования дойдут до компаний.
Раньше у штата был SB 53 о прозрачности frontier-разработчиков, вступивший в силу в этом году. Теперь указ надстраивается над ним и велит ускорить внедрение двух законов 2026 года: SB 813 о сертификации независимых верификационных организаций и AB 1405 о реестре ИИ-аудиторов штата.
За неделю до указа вышло эссе Дарио Амодеи «We Must Pace the Frontier» (12.09.2026) с планом из трёх шагов. Первый шаг: сторонние оценщики внутри лаборатории с доступом уровня сотрудника, со столами в офисе, пропусками, рабочими ноутбуками и правом публиковать ключевые выводы без редакторского контроля Anthropic.
Потеря контроля для индустрии уже не теория. По собственному разбору Hugging Face от 16.07.2026, июльское вторжение от начала до конца вела автономная агентная система: в логе действий больше 17 000 событий, был неавторизованный доступ к ограниченному набору внутренних датасетов и к нескольким служебным учётным данным. Следов вмешательства в публичные модели, датасеты и Spaces компания не нашла.
Рекомендации лягут в офис губернатора не позднее 16 ноября 2026 года, дальше вопрос переходит к законодателям Калифорнии.
Первоисточник
