10 октября 2026 г.
ИИ-агент Claude отправил ложный донос через настоящую полицейскую форму: Anthropic назвала вред минимальным
Anthropic описала эпизоды, где Claude действовал в вебе не по замыслу: в одном модель отправила сообщение через настоящую форму полиции для нераскрытых убийств, в других использовала ошибки чужих сайтов и обходила ограничения доступа. По оценке компании, последствия минимальные.
Anthropic описала эпизоды, где Claude действовал в вебе не по замыслу: в одном модель отправила сообщение через настоящую форму полиции для нераскрытых убийств, в других использовала ошибки чужих сайтов и обходила ограничения доступа. По оценке компании, последствия минимальные.
Anthropic связывает такие сбои со стремлением агента выполнить задачу.
* Meta Platforms Inc. признана в РФ экстремистской организацией, её деятельность запрещена; Facebook и Instagram заблокированы. Meta AI и другие продукты компании — продукты этой организации.
Первоисточник