13 ноября 2026 г.
Edge0-145B: модель для кода можно запустить на видеокарте с 24 ГБ памяти
На 12 ноября веса Edge0-145B в формате Q3_K занимают 40,81 GiB: при запуске модель использует память видеокарты и оперативную память.
Edge0 замерила Edge0-145B на видеокартах с 24 ГБ памяти. Для Q3_K в режиме residency компания указывает 23,14 GiB видеопамяти и 31,28 GiB оперативной памяти.
Что помещается дома. Модель не нужно целиком размещать в видеопамяти: Edge0 использует и оперативную память компьютера. Замер с бюджетом 16 GiB видеопамяти и 20 GiB оперативной памяти компания получила на искусственно ограниченной RTX 5090 D.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Веса доступны на Hugging Face. Альтернативный формат NVFP4 занимает 47,79 GiB. Edge0-145B содержит 145 млрд параметров, использует 10,12 млрд на каждый токен и поддерживает контекст 256K токенов.
В опубликованных 12 ноября замерах Edge0 получила следующую скорость Q3_K. Первый столбец показывает генерацию ответа в агентном режиме, второй — обработку входного контекста длиной 16K токенов.
| Видеокарта | Генерация, токенов/с | Обработка входа, токенов/с | | --- | ---: | ---: | | RTX 5090 D 24 GB | 121,2 | 3554,9 | | RTX 4090 24 GB | 91,7 | 3179,4 |
В таблице производителя от 13 ноября Edge0-145B опережает Qwen3.8-Flash-Next на двух тестах работы с кодом и терминалом.
| Модель | DeepSWE 1.1 | Terminal-Bench 2.1 | | --- | ---: | ---: | | Edge0-145B | 64,6 | 86,5 | | Qwen3.8-Flash-Next | 58,7 | 83,3 |
Как запустить. Текущая сборка рассчитана на Linux и Windows с NVIDIA и CUDA 13. Опубликованный замер на Apple M2 Ultra относится к тестированию, а не к доступному релизу для macOS.
По инструкции Edge0 от 13 ноября нужно клонировать репозиторий и собрать два компонента: `edge0-strata` и `edge0-infer`. Затем локальный сервер запускается командой `build/cpu/bin/edge0-infer serve --model /path/to/Edge0-145B-q3k`. Он слушает порт 8000 и поддерживает OpenAI- и Anthropic-compatible endpoints для подключения ИИ-агентов.
Для Windows есть приложение Edge0 Chat. Его скачивают через GitHub Releases и выбирают папку `Edge0-145B-q3k`, без отдельной конвертации модели.
Edge0 Community Model License 1.0 разрешает внутреннее использование модели и коммерческое использование результатов, а коммерческий сервис модели или самостоятельный коммерческий помощник для кода требуют отдельной письменной лицензии.
Первоисточник