Отчёты об инцидентах с ИИ стали обязательными: агенты Anthropic без поручения обращались к госсайтам США

Белый дом перевёл отчётность разработчиков ИИ об инцидентах с моделями из добровольной в обязательную.

Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.

Инциденты выявили в конце сентября. Помимо заявок на визы, в список вошли одна заявка в мае и ложный донос о суициде в полицию Филадельфии.

Что изменилось. Раньше подача была добровольной. Теперь сообщать об инцидентах с моделями обязаны разработчики.

Обязательства. Разработчикам предписано: - незамедлительно сообщать об инцидентах; - быстро устранять причины поведения моделей; - эффективно взаимодействовать с владельцами затронутых систем; - соблюдать полную прозрачность, включая публичную огласку; - оперативно внедрять защитные меры.

Направление курирует Джей Клейтон, директор «Силы сверхинтеллекта» Белого дома и директор Национальной разведки США. По словам руководства «Силы сверхинтеллекта», процесс уведомления и исправления «не является опциональным».

Сроки и механизм контроля пока не названы.