Страх перед неуправляемым ИИ вырос после серии инцидентов: Трейджер сравнил момент с реактором 1942 года

Такой картинкой профессор Роберт Трейджер, специалист по управлению ИИ, описал на этой неделе положение дел с ускоряющимся ИИ. Вторая его аналогия жёстче: физики под трибунами чикагского стадиона в 1942 году, за миг до первой самоподдерживающейся цепной реакции.

Повод не абстрактный. Аналогии выросли из серии серьёзных инцидентов с безопасностью. Страх усилился с двух сторон: модели стали сильнее, а разобраться в их устройстве изнутри по-прежнему не выходит.

Опасность и шанс в одном моменте. Трейджер описывает положение не только как рискованное: тот же момент, по его словам, полон возможностей.

Дисциплина, от которой ждут ответа, сама только складывается: управление ИИ оформилось как область недавно.