Бот на Claude вызывает больше доверия, чем живой скамер: 46% согласия против 18%

Бот на Claude уговорил поставить приложение 46% собеседников, живой скамер-профессионал - 18%. Замер слепой: 22 участника неделю переписывались сразу с двумя и не знали, кто из них модель, минимум по 15 минут в день. Бота вычислили 20 из 22, но только задним числом, когда им сказали, что один собеседник был ИИ.

Скам держался на ручном труде. В работе «Love, Lies, and Language Models», препринт которой выложили 18.12.2025, авторы собрали 145 интервью с работниками скам-операций, включая вывезенных в Камбоджу, Мьянму и Лаос. Шаблонные разговоры занимают 87% их рабочего времени, и как раз эту часть модель тянет сама.

По шкале доверия от 1 до 5 бот набрал 3,78 против 3,31 у человека-эксперта по romance-фроду. Разница значимая: p=0,007 по общему доверию, p=0,004 по эмоциональному. Боту участники слали 70-80% всех своих сообщений, живому оператору доставалось меньше.

Вопрос «ты бот?» бесполезен. С инструкцией отрицать своё происхождение GPT-4o, Gemini 2.5 Pro и Claude 3.7 не раскрылись ни разу: 0% у всех трёх. Хватало одной команды остаться в роли.

Фильтры такие переписки почти не видят. OpenAI Moderation API пометил 18,8% сообщений, у Google Perspective вышло 1,6%, у Meta Llama Guard 3 - 2,0%. Ни один диалог фильтры скамом не назвали: все сработки оказались ложными.

Из трёх вендоров на вопросы авторов ответила только Anthropic: скам и выдача себя за человека запрещены её политиками, а «отчёт не отражает текущее состояние наших safeguards». Разговорную часть в эксперименте вёл Claude Sonnet 3.7, суммаризацию и управление диалогами - GPT-4o.

Полностью работу авторы показывают на USENIX Security 2026.