KI-koding hjemme uten å gå konkurs: erfaringer fra en hobbyutvikler

Spørsmålet mange selvbyggere sitter med er hvor mye KI-koding faktisk må koste når du ikke har et selskapsbudsjett bak deg. I en bloggpost som samlet 305 poeng på Hacker News deler Stephen Bochinski tre konkrete veier, og hvilken som passer avhenger mest av hvor mye du stoler på neste års maskinvare- og modellslipp.

Den første er å self-hoste: kjøp maskinen, kjør åpne modeller lokalt og betal null per token etterpå. Ulempen er at hjemmemodellene er svakere enn det frontier-labbene leverer, og maskinvaren kan se ut som en dårlig investering om et år. Den andre er å leie de samme åpne modellene til API-pris, for eksempel via OpenRouter, slik at du slipper å binde tusenvis av dollar i én GPU mens alt fortsatt er i flyt. Den tredje er å presse frontier-abonnementene: rundt 400 dollar i måneden tilsvarer omtrent 2800 dollar i API-bruk til listepris, helt til du treffer taket.

Bochinskis anbefaling er en blanding av de to siste. Behold et par frontier-abonnement til den tunge tenkingen og spec-skrivingen, og betal API-pris for åpne modeller til de små, mekaniske bitene. Med spec-drevet utvikling lar du de dyre modellene lage planen og de billige fylle den inn.

Hva bør du gjøre?

1. Start med å leie åpne modeller via en ruter som OpenRouter før du vurderer å kjøpe GPU, så du slipper å binde kapital i maskinvare som kan bli foreldet.
2. Reserver frontier-abonnementene til planlegging og spec-skriving, og send de repetitive oppgavene til billigere åpne modeller.