новости/16 июля 2026 г.
00:58OpenAI показала GPT-Red - внутреннюю модель для поиска prompt-injection
источник: @testingcatalog на X ↗·
машинная выжимка · сверена с источником
🚨 AI News | TestingCatalog
@testingcatalog
OpenAI анонсировала GPT-Red, внутреннюю модель для поиска уязвимостей к prompt-injection в масштабе. GPT-Red - сильный red-teamer, и наши прошлые модели крайне уязвимы к его атакам через prompt injection. Мы используем GPT-Red для состязательного обучения GPT-5.6, делая её намного устойчивее к prompt injection.
· 5 тыс. просмотров
OpenAI анонсировала GPT-Red - внутреннюю модель, которая ищет уязвимости к prompt-injection в масштабе. По словам OpenAI, прошлые модели уязвимы к её атакам, а GPT-5.6 обучали противостоять этим атакам состязательно.
Почему это важно: Prompt-injection - главная дыра AI-агентов: чужой текст в инпуте подменяет инструкции. OpenAI ставит атакующую модель против защитной и гоняет их друг об друга - тот же приём, что RLHF, но против инъекций. GPT-Red наружу не отдают, цифр устойчивости GPT-5.6 в анонсе нет.
Что дальше: Ждать бенчмарк устойчивости GPT-5.6 к prompt-injection в цифрах - без него анонс проверить нельзя. Практику: гонять свой агент на инъекции самому, а не верить на слово.