16 ноября 2026 г.
OpenAI CSAM Image Classifier: на 48% меньше пометок для проверки во внутренней оценке OpenAI
По оценке OpenAI от 16 ноября, новый классификатор помечал бы на 48% меньше изображений при примерно прежнем числе найденных нарушений.

OpenAI CSAM Image Classifier ищет изображения сексуального насилия над детьми, включая созданные ИИ. Компания бесплатно предоставляет его одобренным организациям для проверки контента в своих сервисах.
Отличие от обычной модерации. Модель omni-moderation-latest распознаёт сексуальный контент на изображениях, но её категория sexual/minors работает только с текстом. Новый классификатор проверяет изображения и возвращает два сигнала: likely-csam и likely-csam/gen-ai.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Во внутренней оценке OpenAI доля подтверждённого CSAM среди помеченных изображений выросла примерно вдвое. При примерно прежнем числе найденных нарушений классификатор отправлял бы на ручную проверку меньше изображений.
У сервисов есть и результаты собственных проверок, приведённые OpenAI 16 ноября:
- В fal ручная проверка подтвердила ранее неизвестный CSAM в 72% срабатываний высокой уверенности на изображениях из работающего сервиса. - В invideo AI каждый четвёртый помеченный случай привёл к блокировке пользователя. - В оценке SafetyKit классификатор обнаружил 90% случаев сексуализации детей в рисунках и анимации.
Как получить доступ. Организация подаёт заявку, проходит проверку Persona и подключение к программе, затем принимает её условия. В заявке нужны:
- Рабочий email. - OpenAI organization ID. - Описание применения. - Сведения о ручной проверке контента и процессе отправки сообщений о CSAM.
После одобрения нужно задать OPENAI_API_KEY этой организации и отправить POST /v1/moderations. В теле запроса указываются `model: "omni-moderation-csam-latest"` и `input: [{"type":"image_url","image_url":{"url":"…"}}]`. Документация содержит готовый curl-пример.
Один запрос принимает ровно одно статичное изображение размером до 20 000 000 байт через HTTP(S) URL или base64 data URL. Текст, Batch API и inline moderation не поддерживаются. По model card OpenAI, изображения обрабатываются без сохранения и не используются для обучения или оценки моделей.
Для генерации и редактирования через Images API OpenAI рекомендует передавать стабильный safety_identifier пользователя с хешированным email или username вместо устаревшего параметра user.
Первоисточник