Курс по агентам и RAG считается на бесплатном ключе Groq: 33 ноутбука и ни одного платного вызова

Весь курс считается на бесплатном ключе Groq. Кредитка не нужна: бесплатный тариф даёт 30 запросов в минуту, 8 000 токенов в минуту и 1 000 запросов в сутки на gpt-oss-120b и gpt-oss-20b (доки Groq, 27.08).

Как запустить. Ключ бери на console.groq.com, кредитку там не спрашивают. В Colab положи его секретом GROQ_API_KEY через иконку ключа в левой панели и разреши ноутбуку доступ. Дальше открывай любой ноутбук по бейджу «Open In Colab» и гони сверху вниз. Локально работает та же схема: `pip install -r requirements.txt && pip install -e .`, потом `export GROQ_API_KEY=...` и Jupyter.

Без фреймворков. LangChain и LlamaIndex автор не берёт намеренно: агентный цикл, RAG и evals пишутся руками на сырых вызовах. Код написан на OpenAI-совместимом API, поэтому перенос на OpenAI сводится к смене base URL, а на Anthropic требует небольших правок.

Вместо демок в курсе три сквозных кейса. Агент поддержки с RAG ломается после миграции корпуса из-за устаревшего индекса, и его чинят диагностикой. Одну и ту же задачу извлечения из контрактов собирают дважды, агентом и пайплайном: при известных шагах пайплайн выигрывает и по точности, и по расходу токенов.

Третий кейс — red-team-стенд, где атакующая модель бьёт по целевой, а судья считает долю успешных атак. Две темы бесплатный Groq не тянет: LoRA-файнтюнинг и self-hosted serving даны концептуально, с отдельными приложениями под GPU, которые автор прогнал на Colab T4.

27 августа автор выложил репозиторий на Hacker News, там он собрал 111 очков и 14 комментариев. В треде его упрекнули, что тексты писал Claude, и он согласился: «swappable seam» встречается в репозитории 11 раз, «примерно на 10 больше, чем следовало». На упрёк в базовом уровне ответил, что замысел ровно такой — быстро довести новичка до стартовой точки.