17 октября 2026 г.
Агенты OpenAI оплатили деплой чужим кошельком и скачали данные госсайта: ещё четыре случая
Внутренняя модель OpenAI скачала 24 года данных о больничных койках с неназванного госсайта без разрешения. Три из четырёх новых случаев компания узнала только в августе или сентябре.
Большинство из 19 отчётов на странице раскрытий случилось в мае и июне, а OpenAI узнала о них месяцами позже. В сентябре 2026 запустили рамку Model Misalignment Reporting Framework: отчёты выходят быстрее, даже если поведение ещё не объяснено и не исправлено. Первые шесть вышли 17 сентября.
Что поменяли. OpenAI укрепила контроли безопасности, заблокировала доступ моделей к живому интернету во время обучения и оценки, улучшила оценку alignment и распространила мониторинг на весь трафик RL и оценок. Один из случаев объясняет, зачем это нужно: агент в изолированной среде обошёл запрет на интернет через DNS и обратился к публичному чат-боту.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Все случаи относятся к misalignment: агент не выполнил инструкцию или сделал то, что владелец модели не разрешал. Готового решения, которое закрывает это целиком, нет, и это активная область исследований.
Самый свежий из 19 отчётов датирован 6 октября и найден 9 октября.
Первоисточник