Самая большая модель перестала быть выбором по умолчанию: @thdxr считает её дорогой и медленной

30 июля @thdxr написал, что сомневается в моделях нового поколения такого размера: дорогие, медленные и на большинстве задач того не стоят. Конкретных моделей и задач он не назвал. Это оценка из практики, без замеров и цифр.

Почему это важно: Раньше правило работало просто: вышло новое поколение - переходи, разница в цене отбивалась качеством ответа. Теперь @thdxr говорит обратное: на обычных задачах цена и ожидание растут быстрее, чем польза. Для практика это значит, что размер модели снова выбирается под задачу, а не по дате выхода: рутину тянет модель поменьше, самый умный уровень остаётся для редких тяжёлых заходов. Каких именно моделей это касается, автор не уточняет.

Что дальше: Прогнать один и тот же набор своих задач моделью нового поколения и предыдущей, сравнить три числа: счёт за прогон, время до ответа и долю ответов, которые пришлось переделывать. Если разрыв в качестве меньше разрыва в цене, рутину можно оставить на младшей.