Случайные метки ИИ изменили решения врачей: 223 медика назначали лекарство чаще «отмеченным»

223 практикующих врача поверили алгоритму, который делил пациентов наугад: об исследовании рассказал Hi-Tech Mail.ru 30 июля 2026 года. Система помечала часть пациентов как «высокочувствительных» к экспериментальному препарату, хотя шансы на выздоровление у обеих групп были одинаковыми. Врачи со средним стажем 10-13 лет назначали лечение «отмеченным» заметно чаще и оценивали эффект у них выше, хотя выздоравливали все одинаково. В первой части участвовали 105 человек, во второй 118.

Почему это важно: Главный аргумент за ИИ-подсказки в любой рискованной области звучит так: последнее слово всё равно за специалистом, он отсеет ерунду. Второй эксперимент этот аргумент ломает. Препарат там не помогал вообще никому, и всё равно многие участники в итоге были уверены, что лечение сработало, особенно у пациентов с меткой алгоритма. То есть подсказка не просто сместила решение: она задала, как человек прочитал результат своего же решения. Стаж от 10 лет от этого не защитил. Для практика вывод неудобный: опыт ловит ошибку в фактах, но не ловит выдуманную закономерность, если её назвал алгоритм. Кто именно ставил метки и объяснял ли чем-нибудь свой выбор, в пересказе не говорят.

Что дальше: Прогнать свой рабочий сценарий дважды: сначала решить без подсказки модели, потом посмотреть её вывод и записать, где решение поменялось. Разница между двумя прогонами и есть ваш личный размер эффекта из этого исследования.