21 октября 2026 г.
TorchNeuron: PyTorch переезжает с Nvidia на Trainium одной настройкой выбора чипа
Amazon 20 октября выпустила TorchNeuron в публичную бету под Apache 2.0. Поддерживаются Trainium2 и Trainium3, а перенос с Nvidia описан как одна настройка выбора чипа без переписывания кода.
В доках AWS вместо cuda пишут neuron, например model.to("neuron") или device="neuron". Компиляция идёт через torch.compile с backend="neuron".
Установка. Сначала pip install torch==2.14.0 с CPU-индекса PyTorch, затем torch-neuronx и neuronx-cc с индекса AWS. Нужен Python 3.12, 3.13 или 3.14.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Eager mode, FSDP, DDP и Tensor Parallelism работают без XLA. Среди первых пользователей Cartesia, Lieber Institute и Hugging Face.
Google на той же конференции показала TorchTPU. Режим Fused Eager даёт прирост на 50–100+% против Strict Eager (блог Google от 7 апреля 2026). Публичного репозитория и установки пока нет.
Google обещала открыть TorchTPU в 2026 году, пока публичного репозитория нет.
* Meta Platforms Inc. признана в РФ экстремистской организацией, её деятельность запрещена; Facebook и Instagram заблокированы. Meta AI и другие продукты компании — продукты этой организации.
Первоисточник