Der de fleste kodeagenter binder deg til én frontier-modell, starter Cast AIs Kimchi Coding fra motsatt premiss: et orkestreringslag som autonomt ruter hver oppgave til riktig modell til riktig kostnad. Agenten forlot Early Access denne uken og er nå allment tilgjengelig på kimchi.dev med full produksjonsstøtte.
Kostnadsfordelen har to kilder: ruting som sender mesteparten av arbeidet til open-weight-modeller, og selvhostet inferens på GPU-infrastruktur Cast AI optimaliserer ned til noden. I skygge-evalueringer mot en baseline med kun kommersielle modeller er Kimchi 2,5x billigere og matcher eller slår kvaliteten målt på spec-match og test-pass.
«Multimodell-tilnærmingen beholder kvaliteten til én frontier-modell samtidig som den kutter token-kostnadene dramatisk.» — Dekel Shavit, Senior Director of Engineering, Akamai
For deg som bygger selvhostet, kjører Kimchi frittstående inne i din egen VPC eller på dedikerte Nvidia B300-GPU-er. Harde forbruksgrenser gjelder fra enkelt-API-nøkler opp til hele organisasjonen, løpske agent-løkker termineres automatisk, og et FinOps-panel viser kostnad per utvikler, team og prosjekt. Kimchi er ISO 27001- og SOC 2 Type II-sertifisert med GDPR-samsvar.
Hva bør du gjøre?
- Vil du teste: agenten er open-source og terminal-nativ på kimchi.dev, så du kan kjøre den lokalt mot egne modeller.
- Trenger du datasuverenitet: kjør inferensen frittstående i egen VPC i stedet for mot et kommersielt API.