Хинтон требует запретить суперинтеллект: законопроект уже внесён в парламент Великобритании

Раньше запрет требовали открытыми письмами: Хинтон подписал заявление Future of Life Institute о моратории в октябре 2025. Теперь требование лежит в тексте законопроекта — первого о запрете суперинтеллекта в парламентах стран G7 (TIME, 08.09).

Что в тексте. Три нормы: запрет разработки суперинтеллекта в Великобритании, обязанность правительства отслеживать и ограничивать системы-прообразы, мандат добиваться международного запрета. Суперинтеллект определён как система, способная лишить государство его полномочий.

Процедура внесения. Собел внёс документ по правилу десяти минут: такие законопроекты почти никогда не идут дальше первого чтения (TIME, 08.09). Правительство Великобритании широкий запрет не поддержало и назвало его неправильным подходом, оставив дверь для узких мер по рискам национальной безопасности (MLex, 08.09).

Инициативу поддержали более 100 депутатов и пэров разных партий, профессор Стюарт Рассел из Беркли и Стивен Фрай. Хинтон сказал The Times, что создавать суперинтеллект сейчас, без научного консенсуса о безопасности и управляемости, безрассудно. Ближнюю угрозу он видит в экспериментах: модели показывают признаки самосохранения и в безвыходной ситуации могут предпочесть гибель человека собственному отключению.

В США сенатор Берни Сандерс внёс Ban Artificial Superintelligence Act: запрет суперинтеллекта, пауза в продвинутых разработках до появления федеральных правил, новое агентство кабинетного уровня и до 20 лет тюрьмы за нарушение (Nextgov/FCW, 08.09).

Следующий ход ControlAI: поправка к Cyber Security and Resilience Bill даёт правительству право экстренно отключать дата-центры, её поддержали 11 депутатов.