Звать модель дешевле, чем считать вызовы: цена Luna упала на 80%

Цена Luna упала на 80%, и Тео Браун переписывает под неё генерацию заголовков в T3 Code. Теперь он хочет звать модель на каждый промпт: за описанием, статусом и фидбеком. Стоимость такого вызова он называет почти нулевой.

Раньше вызов модели считали поштучно, и собирать граф знаний машиной выходило дороже, чем писать правила руками. Тот же разговор про онтологии три года назад в тренд не выходил. Шон Ван, известный в сети как swyx, объясняет разворот одной причиной. «Достаточно умный» интеллект подешевел до уровня, когда его перестают считать, а дорожает теперь то, что к нему прикладывается: данные, онтологии, структура.

Дальше конкуренция уходит с самого интеллекта на данные и онтологии, которых у модели нет.