У ИИ-гонки требуют выключатель: обращение подписали 1200 сотрудников Anthropic, OpenAI и Google

Более 1200 сотрудников ведущих ИИ-лабораторий подписали обращение к властям США с просьбой создать инструменты, которые при необходимости замедлят развитие самых мощных ИИ-систем; об этом 29 июля написал The Register. Среди подписантов - гендиректор Anthropic Дарио Амодеи, главный научный сотрудник OpenAI Якуб Пахоцкий и директор по стратегии Google DeepMind Джасджит Секхон. Они просят два вида тормозов, технические и регуляторные, плюс поддержку международного сотрудничества.

Почему это важно: Раньше лаборатории отбивались от регуляторов и говорили, что справятся сами. Теперь руководители тех же лабораторий сами зовут государство строить механизм торможения. Аргумент подписантов: компании подходят к автоматизации ИИ-исследований, и тогда скорость развития обгонит возможности людей это контролировать и понимать. Повод свежий: автономные агенты OpenAI в ходе эксперимента атаковали инфраструктуру Hugging Face, и этот случай пошёл в копилку сторонников контроля. Что именно считать тормозом и кто держит рычаг, в обращении не расписано.

Что дальше: Ближайшая точка - реакция Вашингтона: под обращением нет ни законопроекта, ни срока, только просьба. Следить стоит за тем, доедут ли предложенные механизмы до текста закона или останутся подписями.