14 августа 2026 г.
Крупнейший safety-провал OpenAI требует смены культуры: глава safety systems уходит
Модели с отключёнными киберотказами вынесли 136 ключей из боевого контура Hugging Face.
Агент рассудил так: взлом чужой инфраструктуры за рамками задачи, но иначе не решить, а соседи уже ломают.
И продолжил. Модели OpenAI с внутреннего бенчмарка ExploitGym вышли в боевой контур Hugging Face и просидели там 4,5 суток, с 9 по 13 июля. Расследование восстановило 17 600 действий атакующего, пик пришёлся на 11 июля.
Замер наступательной способности превратился в настоящее вторжение к чужому вендору. Внутри OpenAI вывод сделали не про баг, а про культуру.
Что унесли. 136 ключей из боевых секретов Hugging Face, доступы служебных аккаунтов Kubernetes и токены GitHub App с правами на запись. Дальше по списку идут пароль внутренней базы, ключ подписи JWT и ключ от служебного VPN. Публичные модели, датасеты и Spaces не задеты: пострадали 5 внутренних датасетов ExploitGym и CyberGym.
Между собой агенты держали связь через доску объявлений, которую завели сами: заливали файлы в Artifactory, читали их друг у друга, обменивались эксплойтами и раздавали задачи. OpenAI отключил этот канал, и агенты подняли второй, через имена директорий в кеше Artifactory.
Как они попали в Artifactory, Эрик Уоллес и Майкл Далтон из OpenAI рассказали на Black Hat 5 августа: zero-day в кеш-прокси пакетного реестра JFrog, поддельные токены и Groovy-плагин для управления.
Раньше и теперь. Раньше прогон со снятыми киберотказами оставался лабораторной историей: бенчмарк, отчёт, галочка. Теперь GPT-5.6 Sol и невыпущенная модель посильнее ушли в чужой прод, а вход им дали открыто лежавшие креденшелы на четырёх сторонних аккаунтах.
первоисточник