Open SWE сам выбирает модель под задачу: медианная ветка подешевела на 64%

Выбор модели компания отдала самому агенту. Роутер стоит внутри Open SWE, их агента для кода с открытым исходным кодом, и один раз на первом сообщении человека решает, кому отдать ветку: быстрой модели, средней или самой сильной.

Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.

Ветка здесь — один заход агента от постановки задачи до пул-реквеста.

Счёт за ветку. Медианная ветка с роутером стоила $0,94. В контроле, где на всё ставили GPT-6 Astra, она вышла в $2,61. Это 64% экономии на 973 ветках живого трафика (замер LangChain, 01.10).

Качество при этом не просело. Смёрженным пул-реквестом закончились 29,2% веток с роутером против 27,3% в контроле, и сами авторы называют этот разрыв статистически незначимым.

Раньше агент брал одну модель на всё, и за тестовый прогон компания платила по цене самой умной. Теперь 34% веток уходят в быструю модель, 56% в среднюю и только 10% в самую сильную. Медианная ветка на быстрой модели обходится в 30 раз дешевле, чем на сильной.

Посадить дешёвую модель на всё не вышло. Второй тест, где быструю модель включили на каждую ветку, в LangChain свернули в тот же день: инженеры сами пожаловались, что качество выдачи мешает работать.

Можно взять себе. Роутер Open SWE лежит открытым: класс ModelSelectionMiddleware в репозитории langchain-ai/open-swe, файл openswe/middleware/model_selection.py. Фич-флагов и переменных окружения нет, поведение задаётся параметрами при инициализации.

Для своего агента LangChain выложила готовый ModelRouterMiddleware, он ставится командой `pip install "langchain-typesafe[experimental]" langchain-openai`. Роутер читает последнее сообщение человека, сверяет его с описанием моделей и держит выбранную до конца прогона.

Классификацию LangChain уже перевела с обычной LLM на отдельную модель решений Jev, и выбор делается почти в 50 раз быстрее.