У риска ИИ-катастрофы появилась цифра: опрос MIT дал 10% при любом сценарии

Эксперты оценили вероятность ИИ-катастрофы до 2030 года в 10% при любом сценарии, а без регулирования она превышает 20%. Работу опубликовал MIT Sloan, о ней написали 28 июля: 272 международных эксперта оценивали 24 категории рисков на горизонте 2025-2030 годов. Не меньше 10% набрали 18 категорий из 24; катастрофой авторы считают событие с более чем миллионом погибших или убытками свыше 100 млрд долларов.

Почему это важно: Раньше разговор о рисках ИИ держался на открытых письмах и громких цитатах отдельных исследователей. Теперь у оценки есть процедура: метод Дельфи, несколько раундов, каждый отвечает анонимно, потом видит сводку коллег и может поменять позицию. Команда MIT FutureTech и Университета Квинсленда специально набирала людей с разными взглядами, чтобы консенсус не собрался вокруг одного авторитета. Авторы работы: Александр Саери, Джесс Грэм, Майкл Ноетел, Питер Слэттери и Нил Томпсон.

Для практика важнее общей цифры раскладка по пятёрке лидеров. Опасные возможности самих ИИ-систем - 12%, оружие и кибератаки - 12%, экологический ущерб - 12%, неравенство и безработица - 11%, концентрация власти и несправедливое распределение выгод - 11%. Сценарий из фантастики и земная безработица оказались в одном ряду.

При этом 10% здесь - усреднённое мнение 272 человек, а не замер. Разброс оценок внутри раундов в пересказе не приводят.

Что дальше: Горизонт оценок закрывается 2030 годом, промежуточных вех авторы не называют. Если цифра нужна для решений, открой публикацию MIT Sloan и посмотри разброс ответов по раундам: медиана в 10% не говорит, насколько эксперты расходились между собой.