Колонка ловит команды без интернета: модель на самом устройстве весит 1,5 МБ

Модель быстрых команд для умных колонок Яндекса весит от 0,5 до 1,5 МБ и работает прямо на устройстве, без обращения к серверам. 23 июля Яндекс рассказал, как добавил в неё «лайк», «дизлайк», «включи блютус» и «выключи блютус»: четыре команды при жёстком условии не ухудшить уже запущенные и не разогнать расход CPU и памяти колонки.

Почему это важно: Раньше любая команда шла через слово «Алиса»: колонка отправляла запрос в модель распознавания речи ASR на серверы, а без интернета не работало ничего. Быстрые команды устроены иначе. Короткие фразы вроде «дальше» и «тише» распознаёт компактная нейросеть внутри самой колонки, и ответ приходит быстрее. Платит за это разработчик: модель ограничена CPU и оперативной памятью устройства, поэтому сильно увеличить её нельзя, а каждая новая команда борется за те же ресурсы. Архитектуру Яндекс не изобретал заново, а взял решение для наушников Яндекс Дропс и уменьшил под железо колонок. Больше всех выигрывает Станция Стрит: её берут на природу, где сети нет вообще. Сколько ресурсов съели четыре добавленные команды и как изменилась точность на старых, в анонсе не сказано.

Что дальше: Список быстрых команд лежит в настройках аккаунта в приложении «Дом с Алисой»: проверьте, доехали ли «лайк» и «включи блютус» до вашей модели колонки. Кто сам строит on-device распознавание, найдёт в статье разбор архитектуры и метод переноса решения с наушников Яндекс Дропс.