26 августа 2026 г.
Потолок ИИ теперь память, а не GPU: вычисления утраиваются за два года, HBM не успевает удвоиться
В типичной GPU-сборке на память приходится около 90% кремния, и разрыв с вычислениями растёт с каждым поколением.
Инженер Micron Рагху Срираманени вышел на Hot Chips 2026 с плохой новостью: стена памяти никуда не делась и становится выше.
Арифметика простая. Производительность ИИ-вычислений утраивается каждые два года, а пропускная способность HBM за тот же срок не успевает даже удвоиться. Каждое поколение разрыв копится.
Память съела кристалл. Типичная GPU-сборка на слайде Micron занимает больше 12 000 мм² вместе с корпусом, и при четырёх 12-ярусных стеках HBM на память приходится около 90% всего кремния. При восьми стеках HBM4 кремния памяти в 8 раз больше, чем в самом GPU-кристалле.
Площадь и контакты стоят денег. На ту же ёмкость HBM отъедает втрое больше площади пластины, чем DDR5, а один контакт HBM обходится в пять раз дороже контакта DDR5.
Память роняет прогоны. Micron сослалась на данные Llama 3: за 54-дневный прогон на 16 384 GPU H100 память HBM3 вызвала 17,2% незапланированных прерываний. Это вторая причина остановок после отказов самих GPU.
Скорость при этом растёт. Первое поколение HBM отдавало 128 ГБ/с на стек, HBM4 по спецификации даёт 2048 ГБ/с, а Micron разогнала свой выше 2,8 ТБ/с на стек против базовых 2 ТБ/с стандарта JEDEC. Вычислениям всё равно мало.
Против стены Micron ставит не частоты, а упаковку и процесс: жидкостное охлаждение, hybrid bonding, fusion bonding и новое поколение die-to-die-интерконнекта.
Первоисточник