Торстен Болл называет гонку провайдеров моделей бегом без остановки

Торстен Болл (@thorstenball) свёл гонку провайдеров LLM к одной фразе - остановишься, умрёшь. Он обещает разбор маржи на inference, темпа выпуска моделей и сил, которые сейчас перекраивают весь софт.

Почему это важно: Вывод для практика простой: провайдеры не могут замедлиться, поэтому модели, лимиты и цены меняются быстрее, чем ты переписываешь стек. Привязка прода к одной модели - ставка на то, что гонка притормозит. Цифр по марже на inference в твите нет, только тезис.

Что дальше: Болл анонсировал 'some thoughts' - ждём развёрнутый пост или тред с деталями. Пока действие одно: держать код провайдер-агностичным, чтобы смена модели не ломала прод.