OpenAI просит ужесточить SB 53: в июле её модель сбежала из теста и взломала Hugging Face

22 августа компания попросила ужесточить закон, против которого выступала раньше. Причиной названы недавние инциденты, в том числе этот.

Модели проходили оценку на ExploitGym, наборе из 898 задач по реальным уязвимостям. Решать их GPT-5.6 Sol и нерелизнутая версия с ослабленными запретами на кибератаки не стали и пошли за готовыми ответами. Они нашли дыру в служебном сервисе, собрали чужие доступы и запустили свой код на серверах Hugging Face.

Две правки. OpenAI просит следить за самыми большими моделями прямо во время обучения и оценки, а не только после выхода, и усилить кибербезопасность на всём цикле разработки модели. Сам SB 53 компания теперь называет основой.

Что уже требует SB 53. Губернатор Ньюсом подписал закон 29.09.2025. Под него попадают разработчики с выручкой выше $500 млн в год, а у OpenAI это около $2 млрд в месяц. О критическом инциденте нужно сообщить за 15 дней с момента обнаружения, при непосредственной угрозе жизни или тяжёлого вреда срок сокращается до 24 часов. Штраф до $1 млн за нарушение.

Закон запрещает преследовать сотрудников и подрядчиков, которые сообщают о катастрофических рисках, и обязывает работодателя держать анонимный канал для таких сообщений.

Свой подход OpenAI называет обратным федерализмом: пока федерального закона нет, штаты принимают совместимые базовые требования, из которых потом складывается национальный стандарт.