16 сентября 2026 г.
DeepMind вынесла безопасное развитие AGI в отдельный институт: старт с 4 эссе
16 сентября 2026 года DeepMind запустила DeepMind Institute (DMI) и начала работу с 4 эссе об общем искусственном интеллекте (AGI). Институт собирает исследования, сотрудничество и дебаты о технических и общественных вопросах AGI, а материалы публикуют исследователи Google DeepMind, Google и учёные со всего мира. Директорами DMI стали Shane Legg, James Manyika и Demis Hassabis, редактурой управляет Shane Legg, для связи указан dmi-editor@google.com.
DMI объединила технические и общественные вопросы AGI в одной площадке для исследований, сотрудничества и дебатов. Для практика это перевод разговора от возможностей моделей к тому, как их проверять и выпускать.
Четыре темы. На старте институт опубликовал эссе о прозрачности рассуждений моделей, экономической политике для AGI, новом утопизме и стандартах для ИИ-моделей высшего уровня. В работе о прозрачности рассуждений авторы предлагают измерять прозрачность Chain of Thought, сохранять прозрачные архитектуры и проверять влияние сигналов награды при обучении.
Конкретные предложения. Исследование Economic Policy for AGI оценивает 11 политических мер по 4 критериям, используя обзор литературы, опросы и 51 ИИ-оценщика, обученных на данных 51 экономиста. В модели Demis Hassabis компании добровольно передают модели стандартному органу за 30 дней до релиза, а тесты обновляются примерно ежеквартально.
DMI оставляет эти тексты отправными точками для дискуссии, а не официальной позицией Google.
Первоисточник
