Cotype 3 прогнали на сервере без чипов Nvidia: внутри стоят восемь китайских GPU

Rubytech и MWS AI прогнали на ней Cotype 3, модель самой MWS AI. На контексте 27 000 токенов машина начинает отвечать через 8 секунд, дальше слова идут с задержкой от 111 мс. В самых частых сценариях инференса Rubytech называет результат сопоставимым с конфигурациями на H100.

Ускорял софт, не железо. Адаптация драйверов, программной среды и оркестрации дала прирост в 2–2,2 раза против штатной программной конфигурации тех же китайских GPU. Разворачивают всё контейнерами.

Базовый комплекс «Скала^р Машина МБД.ИИ» Rubytech выпустила в марте 2025 года: аналог NVIDIA DGX SuperPOD и Huawei Atlas 900 PoD, до 1,5 петафлопс на вычислительный кластер, компоненты из реестров Минпромторга и Минцифры. Теперь у линейки есть модификация, где Nvidia нет вовсе.

Результаты у всех разные. IT-директор Fplus Олег Смирнов оценивает зрелые решения вроде Huawei Ascend в 60–80% от производительности H100 в зависимости от задачи. Сама Fplus тестировала ускоритель Tongxin от Shanghai Wutongshu High-Tech: в реальных задачах он отстал и от A100, и от более слабой A40 из-за несовместимости с CUDA и сырого программного стека.

ВТБ держит китайские GPU в опытной эксплуатации с марта 2026 года, на компьютерном зрении и распознавании речи. Герман Греф в мае говорил, что GigaChat на китайских чипах пока не работает, но Сбербанк рассчитывает переходить к ним постепенно. Yadro тестирует несколько ускорителей и собирается отобрать конфигурации под поставки заказчикам.

Коммерческий запуск комплексов с китайскими GPU Rubytech наметила на 2027 год.