27 июля 2026 г.
Инфраструктура инференса выросла на открытых весах: LMSYS начался с Vicuna в 2023 году
27 июля LMSYS подписал письмо в защиту открытых весов и объяснил почему: организация выросла из Vicuna, файнтюна LLaMA от Meta, в начале 2023 года. По той же схеме появились FastChat, а потом SGLang. Сообщество SGLang подписало письмо отдельным постом.
LMSYS Org
@lmsysorg
LMSYS существует благодаря открытым весам. В начале 2023 года LMSYS начиналась с Vicuna - модели с открытыми весами, дообученной из Meta LLaMA (первой феноменальной модели с открытыми весами). FastChat, а позже SGLang выросли из того же паттерна: появляются открытые веса, вокруг них собирается сообщество, которое делает их пригодными к работе, и в итоге инструменты служат всем. Это и есть история распространения из письма, и мы прожили её изнутри. Горды, что подписали: дух открытости в LMSYS никогда не спит.
Мы в деле! Сообщество SGLang подписало Open Weights letter вместе с @lmsysorg Всё, что мы выпускаем, выходит открытым, потому что производительность мирового уровня должна быть доступна каждому, кто строит. Строим дальше в открытую 🧡
· 20,8 тыс. просмотров
Почему это важно: В начале 2023 года Meta выложила веса LLaMA. Дальше пошла цепочка: команда LMSYS дообучила на них Vicuna, собрала вокруг неё FastChat, а позже выпустила SGLang. Сейчас на SGLang гоняют инференс те, кто про Vicuna уже и не вспомнит. Раньше эту связь никто вслух не проговаривал: был просто удобный опенсорс-рантайм. Теперь LMSYS говорит прямо - рантайма не было бы без открытых весов. Для практика это упирается в одно: инструменты, на которых вы обслуживаете модели, живут ровно столько, сколько кто-то продолжает выкладывать веса. Ни текста письма, ни списка подписантов в твите не дали.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Что дальше: Проверьте, на чём стоит ваш прод. Если inference-стек уже на SGLang, прогоните ту же нагрузку на open-weight модели и сравните счёт с закрытым API.
* Meta Platforms Inc. признана в РФ экстремистской организацией, её деятельность запрещена; Facebook и Instagram заблокированы. Meta AI и другие продукты компании — продукты этой организации.
Первоисточник