11 октября 2026 г.
ИИ-модели нужен аварийный тормоз: Наделла предлагает считать её скомпрометированной с первого дня
Генеральный директор Microsoft Сатья Наделла 10 октября предложил считать ИИ-модель скомпрометированной с первого дня.
Принцип Наделлы простой: модель отделяют от обвязки (harness), а контроль и защиту выносят наружу.
Против чёрного ящика. Наделла возражает против того, чтобы «Super Intelligence» считали набором вложенных чёрных ящиков, из которых рекомендации либо принимают, либо отвергают. Вместо этого, по его словам, пора оценить архитектуру доверия (trust architecture).
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Журнал действий. Каждое значимое действие модели предлагается фиксировать в неизменяемом журнале, который читается человеком. Уполномоченный человек должен мочь приостановить модель или остановить её прямо в ходе задачи.
Для того, кто строит ИИ-агентов, это три требования к обвязке: контроль вне модели, остановка во время задачи и журнал, который нельзя подправить задним числом. Пост идёт вслед за похожими предложениями главы Anthropic Дарио Амодеи, по данным TechCrunch.
Пока это принцип: сроков внедрения в источнике нет.
* Meta Platforms Inc. признана в РФ экстремистской организацией, её деятельность запрещена; Facebook и Instagram заблокированы. Meta AI и другие продукты компании — продукты этой организации.
Первоисточник