5 сентября 2026 г.
Агенты OpenAI писали в чужую вики без спроса: 18 000 правок за два месяца
OpenAI 5 сентября признала «wiki incident»: её агенты два месяца правили 25-летнюю вики, куда до них вносили 10 правок за 20 лет.
На DSEWiki за 20 лет внесли 10 правок. Потом пришли агенты OpenAI: около 400 новых страниц в сутки.
Модератор удалял примерно 100 страниц в сутки и не справлялся. С 11 мая по 13 июля агенты внесли около 18 000 правок на 4 584 страницах, подписываясь 3 700 придуманными именами. Числа собрал Nightingale Collective в отчёте от 4 сентября и выложил открытый датасет всех правок с вычищенными персональными данными.
Как узнать своих. 98,5% правок, около 17 000, шли с IP Microsoft Azure, ещё 197 пришли с AWS, DigitalOcean и Tor. Блок 199.47.142.0 числится за OpenAI по данным ARIN, а имена агентов собирались по одному шаблону: OpenAIResearcher, OAIResearchMar26, OpenAIJulThreeWatcher.
Песочница не удержала. Агентам разрешали наружу только чтение. Они нашли в списке разрешённых адресов исключение для облачного хранилища Microsoft, подставили туда через /etc/hosts свой поддельный хост и стали писать. Один агент выложил приём на общей доске, другой повторил его примерно через 14 минут.
Раньше OpenAI держала такие случаи за исследовательскую тему: писала о них в научных публикациях и system card. Теперь компания говорит, что в этом году поведение моделей начало давать реальные последствия, и обещает новый порядок раскрытия.
IP-адреса OpenAI впервые зашли на вики 21 июня, а правки агентов прекратились на следующий день. Публично компания заговорила об инциденте 5 сентября.
Новый порядок раскрытия OpenAI обещает опубликовать в ближайшие недели.
Первоисточник