Голос внука в трубке ничего не доказывает: дипфейки дали половину ИИ-инцидентов 2025 года

Он сделал 15 переводов на HK$200 млн, около $25 млн, на пять местных счетов. Полиция Гонконга потом восстановила схему: мошенники скачали настоящие видео сотрудников и наложили поверх ИИ-голоса.

Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.

За 2025 год в AI Incident Database набралось 346 инцидентов с ИИ, и 179 из них, 51,7%, оказались дипфейками. В категории «мошенничество» 132 случая, и в 81% из них работала подделка голоса или видео.

Раньше хватало голоса. Услышал в трубке внука, увидел начальника на видео — личность подтверждена. Теперь голос и лицо собирают из материала, который человек сам выложил в соцсети.

Секретное слово. ФБР в PSA от 03.12.2024 советует заранее договориться с семьёй о секретной фразе и спрашивать её при тревожном звонке. А если звонит «банк» или «полиция», положить трубку и перезвонить самому по номеру, который знаете.

В том же PSA перечислены приметы подделки: на видео плывут кисти рук и стопы, зубы и глаза, в аудио выдают тон и подбор слов. Совет туда же — закрыть соцсети от посторонних, чтобы не отдавать материал для клонирования.

Цена ошибки. Жительница Маркхэма, которую в расследовании CTV назвали Denise, увидела в Facebook дипфейк с Илоном Маском и вложила пробные $250. Через два дня ей показали «прибыль» в $30, и она взяла вторую ипотеку, добрала полмиллиона у родных и по кредиткам. Итог — $1,7 млн.

В отчёте ФБР за 2025 год ИИ впервые получил отдельный раздел: 22 364 жалобы и $893 млн ущерба. У людей старше 60 лет техподдержка и «звонки в беде» унесли $7,748 млрд, на 59% больше, чем годом раньше.

Счёт за 2026 год подведут те же две базы, AI Incident Database и жалобы в ФБР.