Открытые веса не спасут от концентрации ИИ: Дарио Амодеи говорит, что решают чипы

Причина концентрации, по его словам, не в регулировании, а в законах масштабирования: кто держит больше вычислений, тот и держит технологию.

В треде из двух постов 16 августа глава Anthropic назвал ложным выбор «либо концентрировать ИИ в руках избранных компаний и политиков через регулирование, либо раздавать широко». Формулу «регулирование = regulatory capture = концентрация власти» он считает кремниевой скорописью и упрощённой картиной мира.

Чипы возвращают всё назад. Открытые веса он называет помощью, но не решением: концентрация смещается к тем, у кого больше вычислений и ИИ-чипов, «что возвращает нас прямо к большим лабораториям» (The Decoder, 16.08).

Раньше спор упирался в «регулировать или нет». Теперь Амодеи предлагает рамку: тестировать самые сильные модели до релиза, а модели с открытыми весами проверять, когда они подтягиваются к этому уровню.

Малого разработчика такая рамка не задевает по порогу. Калифорнийский SB 53, который Амодеи приводит в пример, действует только для компаний с выручкой свыше $500 млн в год и моделей, обученных более чем на 10^26 операций (текст закона, 01.10.2025).

Кризис доверия. Вторую половину разговора Амодеи отдал тому, почему публика злится на ИИ. «Обычные люди не доверяют компаниям, правительствам и техиндустрии и всегда подозревают, что мы придумываем новый способ их обмануть», сказал он (Fortune, 16.08).