7 сентября 2026 г.
Ускорителю для ИИ хватит дешёвой памяти: HyperAccel обещает впятеро больше токенов в секунду
Ускорители Bertha работают на памяти LPDDR вместо дорогой HBM, и HyperAccel заявляет впятеро больше токенов в секунду при том же TOPS.
HyperAccel убрал из ускорителя дорогую память HBM. По замерам компании, скорость выросла впятеро.
Ставка на маршрут данных. Вместо HBM в Bertha стоят чипы LPDDR, память из ноутбуков и телефонов. Скорость держит фирменная архитектура Streamlined Dataflow: она сокращает перемещение данных внутри чипа и подгоняет пропускную способность памяти под вычислительный блок.
Пятикратная разница. При сопоставимой величине TOPS Bertha выдаёт впятеро больше токенов в секунду, чем обычные ускорители. Во время инференса, по данным HyperAccel, работает до 90% ресурсов чипа.
TOPS меряет паспортную мощность чипа, а токены в секунду показывают, сколько текста модель успевает отдать. Раньше высокие токены в секунду покупали вместе с дорогой HBM. Корейский стартап обещает тот же результат на дешёвой памяти.
Сторонние замеры появятся, когда Bertha попадёт на чужие стенды.
* Meta Platforms Inc. признана в РФ экстремистской организацией, её деятельность запрещена; Facebook и Instagram заблокированы. Meta AI и другие продукты компании — продукты этой организации.
Первоисточник
