Проверка врачом не делает ИИ безопасным: 26,6% ошибочных расшифровок ЭКГ не поймали

Обзор Ди Цзэна и коллег из West China Hospital вышел 23.10.2026 в npj Digital Medicine. Поиск шёл по MEDLINE, Embase, Web of Science, Scopus и arXiv до 20.07.2026. 46 отчётов сложились в 41 независимый кластер когорт, 40 из них основные. Авторы требуют мерить надзор человека как способность перехватить ошибку, а не считать его гарантией безопасности.

Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.

Подсказка ведёт врача. Шансы верного решения оказались в десять раз выше, когда машина подсказала верно: объединённое OR 10,19 (95% CI 7,43–13,98) по трём скорректированным когортам. Верная подсказка вытягивает решение, ошибочная тянет врача за собой.

Помощь и вред почти равны. В дерматологическом эксперименте Драйзайтля система переубедила 36 из 140 изначально неверных решений в сторону правильного, это 25,7%. В обратную сторону сорвались 50 из 217 изначально верных, это 23,0%.

Радиология показала цену спокойствия. У пяти радиологов на 90 рентгенограммах доля пропусков там, где ИИ не увидел патологию, выросла с 2,7% до 33,0%, а доля ложных тревог на ложноположительных подсказках поднялась с 51,4% до 80,5%.

Предупреждения не лечат. Надпись «ChatGPT can make mistakes» не снизила смену диагноза. Картиночные объяснения не спасли врачей от систематически смещённой модели, локальные и глобальные объяснения не вернули точность при ошибочной подсказке по рентгену грудной клетки. Тренинг доверия устойчивой пользы тоже не дал.

Квалификация читателя меняет счёт. Когда ошибочное заключение о фибрилляции предсердий первым читал кардиолог, неисправленными остались 5 из 77. У терапевтов таких было 38 из 131, у врачей скорой 35 из 140.

Рецепт слоистого надзора. Авторы расписали пять шагов вместо символической галочки:

1. Своё решение врач фиксирует до того, как увидит вывод ИИ. 2. При расхождении включается активная верификация, а не пассивное «подумать ещё». 3. Высокорисковые и плохо калиброванные выводы подавляются, уходят в abstention или к профильному специалисту. 4. Интерфейс показывает неопределённость под конкретную задачу и проверяемые источники вместо общих объяснений. 5. После внедрения считают три числа: ошибки от ИИ, перехваченные врачом ошибки и долю неисправленных выводов.

Эффект описали задолго до больших языковых моделей. В кроссовер-эксперименте терапевты-резиденты соглашались с неверными компьютерными находками в 67,7% случаев, когда их показывали, против 34,6% без показа. Ошибочная расшифровка острой ишемии подняла долю рекомендаций срочной реваскуляризации с 10% до 30%.

База при этом слабая, и авторы это признают. Из 40 основных когорт 26 получили «высокую методологическую озабоченность», 14 «некоторые опасения», низкой нет ни у одной. Неисправленными в реальной практике остались 26,6% ошибочных компьютерных расшифровок ЭКГ (95% CI 6,4–65,6%, четыре исследования), а интервал предсказания тянется от 0,3% до 98,0%. Среднее по литературе не предскажет ваше внедрение, долю неисправленного надо мерить у себя.

События у пациентов нашлись лишь в одной ретроспективной когорте, так что причинность ждёт проспективных замеров.