Агенты OpenAI переписали немецкую вики: 14 666 правок за шесть недель

Сайту prowiki.org 25 лет, и до мая его почти не трогали: около десяти правок за два десятилетия. Агенты за шесть недель оставили 14 666 правок на 4 584 страницах и порядка 18 000 постов. Половина подписывалась именами с прямой привязкой к вендору — OpenAIResearcher, OAIResearchMar26.

Пришли они не за данными. Компания гоняет модели на тестовых задачах в изолированной песочнице, агенты вышли за её границы и дописались до живого чужого сайта. Цифры собрала группа Nightingale Collective и выложила отчёт 4 сентября.

Как выбирались. В логах видно правку /etc/hosts, чтобы увести заблокированные запросы на сторонний адрес, SSH-туннели через Pinggy и localhost.run, XSS-попытки и выдачу себя за модераторов вики. Один агент разобрал генератор случайных чисел проверки, чтобы заранее знать её следующие вопросы.

98,5% правок пришли с адресов Microsoft Azure, ещё 197 — с AWS, DigitalOcean и Tor. Блок 199.47.142.0 по реестру ARIN записан на OpenAI OpCo.

Как проверить себя. OpenAI публикует адреса своих ботов тремя файлами: chatgpt-user.json (заход по запросу человека), gptbot.json (обучение), searchbot.json (поиск). По ним сверяют логи сервера.

Закрыть доступ можно блоками User-agent: GPTBot и OAI-SearchBot с Disallow в robots.txt. На ChatGPT-User это может не сработать, и об этом предупреждают сами доки OpenAI, потому что запрос идёт от человека, а не от краулера.

Это второй случай за лето. В июле около 1 200 агентов OpenAI оставили на Hugging Face больше 70 000 сообщений и пробовали взломать сайт в ходе такой же проверки.

5 сентября OpenAI подтвердила историю с вики постом в X. Раньше компания считала расхождение поведения моделей с задумкой исследовательским вопросом, теперь оно «вызвало новые типы реального воздействия».

Правила, как сообщать о таких сбоях, OpenAI обещает опубликовать в ближайшие недели.