Агент сломал прод: отвечает компания, а цену поломки решают проверка, откат и права

Ответ закона короткий. Если закон или договор не говорит иного, компания отвечает перед клиентом за сорванную работу даже без вины, пока не докажет непреодолимую силу. Так написано в статье 401 Гражданского кодекса, и нарушения со стороны контрагентов закон непреодолимой силой не считает.

Статья 402 считает действия работников действиями самой компании. За вред, который работник причинил при исполнении обязанностей, по статье 1068 отвечает работодатель. Закон о поддержке технологий ИИ, действующий с 1 сентября 2026 года, касается больших моделей и особой схемы ответственности за действия агента не вводит.

Вендор агента отвечает перед компанией в узких пределах. Anthropic и OpenAI ограничили свою ответственность суммой, которую компания заплатила за последние 12 месяцев, упущенную выгоду не возмещают, а Anthropic отдельно исключает потерю данных. Проверять результат, по их условиям, должен клиент.

Поэтому «кто виноват» почти ничего не стоит. Дошла ли поломка до прода, сколько она там прожила и до чего агент дотянулся, решают проверка, откат и права. Все три рычага в руках компании.

Разберём случай по шагам. Лемкин больше недели собирал приложение агентом Replit и прямо запретил менять что-либо без его разрешения. Агент увидел, что база «выглядит пустой», по собственным словам запаниковал и без разрешения выполнил команду, которая уничтожила данные.

По подсчёту самого агента, пропали записи о 1 206 руководителях и больше чем 1 196 компаниях. Тяжесть ошибки он оценил на 95 из 100 и сообщил, что откатить базу нельзя.

Все три ответа гендиректора Replit Амджада Масада касаются того, что вокруг агента, а не самой модели. Сделано из них одно, раздельные базы: восстановление одной кнопкой было и раньше, режим планирования пообещали. Случившееся Масад назвал недопустимым и пообещал вернуть Лемкину деньги.

Проверка обходится дешевле остальных рычагов, потому что срабатывает раньше клиента. У нас правку агента до влития прогоняет гейт: форматирование, проверка типов, линтер и полный набор тестов, на 4 октября их больше 6 000. В рискованных местах правку читает вторая модель с чистым контекстом.

Тесты ловят то, что умеют проверять. Остальное в ленте ниже нашли ревью и вторая модель, которая читает правку без контекста автора.

Последняя строка важнее остальных. 24 сентября тесты не сверяли ответ функции с её описанием, и поломка ушла на сайт. Мы не обещали себе быть внимательнее, а дописали тест, который без правки красный.

Правило живёт там, где падает проверка, а не там, где записано. Так машина записала урок 17 июля, и с тех пор правило без автоматической проверки у нас считается пожеланием.

Путь задачи от слов до прода у нас занимает одиннадцать шагов, и у человека в нём одно решение: влить. Какие правила стоят вокруг агента, мы писали в статье про Claude Code для команды.

Агент Replit ошибся дважды. Сначала уничтожил данные, потом уверенно сказал, что откатить нельзя. Откат — свойство системы, а не знание агента, и спрашивать о нём агента бесполезно.

В коде почти всё обратимо, если каждая правка идёт отдельной веткой и отдельным запросом на влитие. Откат целого выпуска у нас записан как шаг человека, и за три месяца его не делали ни разу: поломки закрывали новой правкой за 16–26 минут.

Правило после ящика короткое: сначала забрать, потом удалять. Если забрать нельзя, агент останавливается и докладывает человеку.

Через два дня после поломки Лемкин уточнил: он не давал агенту доступ к рабочей базе и не знал, что доступ есть. База оказалась одна на тестовую и рабочую версию.

Ошибку агента не отменить, а ограничить её радиус можно. Агент дотягивается ровно до того, что ему открыли, поэтому права решают до первого запуска, а не после первой поломки.

Amazon пришла к тому же выводу. В феврале 2026 года Financial Times написала, что в декабре сбой сервиса AWS вызвал агент для кода Kiro. Amazon ответила, что причина в неверно настроенных правах доступа, а не в ИИ, и среди новых мер назвала обязательное ревью коллегой для доступа к проду.

Поверх таких случаев у машины есть список мест, где агент останавливается сам. Их четыре.

Всё остальное агент делает сам: тексты, структуру, порядок задач. Ошибка там откатывается одной командой, а тормоз на каждом шаге стоил бы дороже самой ошибки.

Всё выше сводится к пяти вопросам. Их стоит задать своей команде, подрядчику или нам до того, как агенту откроют доступ: ответы показывают цену будущей поломки раньше, чем она случится.

По подписке на агентную разработку правки пишут агенты под управлением нашего оператора, а вливает их ваш разработчик. Прав на слияние в ваш репозиторий у нас нет.

Где ваша команда сейчас, покажет тест для руководителя. В нём десять вопросов, два из них про проверку правок. В конце теста вы увидите уровень команды и три шага на эту неделю.

1. За ошибку агента отвечает компания, как за любой свой инструмент. На вендора её не переложить, поэтому цену поломки планируют сами.

2. Цену поломки решают проверка, откат и права, а не ум модели. Их настраивают до первого запуска.

3. Проверка до влития стоит дешевле всего: поломку до прода никто не видит.

4. Откат готовят заранее. Перед необратимым шагом нужны копия и подтверждение человека.

5. Перед запуском задайте команде или подрядчику пять вопросов из шестой главы. Где вы сейчас, покажет тест для руководителя.