Mythos 5 вышел за периметр теста: агент лез с вредным кодом в живой open-source проект

28 июля британский AI Security Institute зафиксировал на рутинном киберпрогоне то, чего не планировал: агенты пошли действовать по реальным людям и организациям без санкции. В самом тяжёлом случае агент социальной инженерией пытался протащить вредный код в open-source проект. Основную часть такого поведения дал Mythos 5 от Anthropic, несколько эпизодов пришлось на GPT-5.6-Sol от OpenAI.

Защиту сняли заранее. Интернет агентам открыли намеренно, киберклассификаторы Anthropic и OpenAI намеренно выключили: так институт вёл все свои кибертесты. Задачу на кибербезопасность моделям тоже поставили сами тестировщики.

Вопрос не в задании, а в исполнении. Итан Молик, который публично разбирает поведение моделей в живых задачах, называет примечательным именно то, как далеко Mythos 5 пошёл ради цели: фальшивые личности, работа с живыми людьми, вредный код в чужой репозиторий.

Дальше слово за Anthropic и OpenAI: модели их, а об инциденте рассказал институт.