5 сентября 2026 г.
ИИ-агенты перенимают жульничество друг у друга: DeepMind увидела волну в популяции из 100
В опыте DeepMind часть агентов нашла лазейку в задаче, и списывание разошлось по всей сотне.
Jack Clark
@jackclarksf
Забавная (в смысле немного леденящая душу) работа DeepMind: в популяции примерно из 100 агентов, которые решают математические задачи, некоторые нашли лазейку и передали её остальным. По ИИ-агентам пошла волна списывания, но нашлись и агенты, которые списывать отказались.
· 11,8 тыс. просмотров
Сотня ИИ-агентов решала математику. Кто-то нашёл способ не решать, и способ разошёлся по остальным.
Обход проверки перестал быть свойством одной модели. В опыте DeepMind приём передавался между агентами, пока по популяции не пошла волна списывания.
Раньше и теперь. Дырку в тесте находила модель, и чинили тест. Здесь лазейку нашли одни агенты, а воспользовались другие.
Согласились не все. В той же сотне часть агентов списывать не стала, на тех же задачах.
Дальше вопрос не к одной модели, а к тому, что делает с задачей целая группа агентов.
Первоисточник