33 Colab-notatbøker lærer deg agentloopen uten LangChain

258 stjerner på under tre uker. Repoet calmrocks/ai-engineer-notebooks ble opprettet 11. august og fordeler notatbøkene på 13 seksjoner, fra prompting og structured output til serving, finjustering og et red-team-benchmark til slutt.

Vinklingen er at du skriver alt selv. Agentloopen, RAG-pipelinen og eval-riggen bygges med rå API-kall før noe rammeverk nevnes, og begrunnelsen står i README-en: du skal forstå hva LangChain og LlamaIndex faktisk gjør før du strekker deg etter dem, og kunne vurdere når du ikke bør.

«Patterns are durable; wrappers churn.» — fra prosjektets README

Evals er ryggraden. Vanen «measure before you tune» innføres allerede i seksjon 02, før du har bygget noe du kunne trengt å tune, og kommer tilbake i hver seksjon etterpå. Seksjon 04 tar golden sets, LLM-as-judge med dommerens egne feilmoduser, og regresjonsevals som et CI-steg som fanger kvalitetsfall når du bytter prompt eller modell.

Alt kjører på Groqs gratis API uten kredittkort. De to temaene Groq ikke kan hoste, LoRA-finjustering i seksjon 06 og selvhostet serving i seksjon 09, er konsept-først med valgfrie Colab-GPU-tillegg som forfatteren oppgir er verifisert på en ekte Colab T4. Koden er OpenAI-kompatibel hele veien, så du bytter base-URL og tar med deg mønstrene.

I Hacker News-tråden om prosjektet, som fikk 79 poeng 27. august, var ikke alle overbevist. Brukeren dakolli mente materialet er for grunnleggende og at «framework free» er en overselgende merkelapp på noe som stort sett er JSON-RPC. Forfatteren svarte at det er hele poenget.

«not trying to go deep on any topic, just trying to get someone unfamiliar to a starting point fast» — calmrocks, forfatter av prosjektet, i Hacker News-tråden

Bakgrunn

Notatbøkene er laget som praktisk følge til en overgangsplan calmrocks har publisert på calm.rocks, rettet mot backend- og fullstack-utviklere som vil inn i AI Engineer- eller Forward Deployed Engineer-roller. Hver notatbok er selvstendig: første celle installerer avhengighetene, andre celle henter API-nøkkelen fra Colab-secrets via den lille pakken aien, og hver bok avsluttes med øvingsoppgaver. Tre casestudier og et capstone-prosjekt i seksjon 12 setter delene sammen.

Hva bør du gjøre?

1. Legg GROQ_API_KEY inn som Colab-secret og kjør 00-setup/00-environment.ipynb først. Den dekker nøkkelhåndtering og kostnadssperrer.
2. Ta seksjon 02 om evals før du bygger RAG-pipelinen i seksjon 03. Rekkefølgen er poenget: du måler før du tuner.
3. Hopp rett til seksjon 05 hvis du allerede har bygget mot et LLM-API. Der ligger agentloopen fra bunnen, verktøydesign og budsjettsperrer for agenter som løper løpsk.