TrueFoundry lanserer TrueForge: åpen konkurrent til Claude Managed Agents

«En leverandør som selger deg en million tokens for 50 dollar, har null insentiv til å fortelle deg at den samme oppgaven kunne vært løst med en modell som tar 50 cent for en million tokens», sier Nikunj Bajaj til The New Stack. Han er medgründer og daglig leder i TrueFoundry, tidligere teknisk leder for maskinlæring i Meta, og lanserte onsdag 19. august et åpent kjøremiljø for KI-agenter rettet rett mot Anthropics tjeneste.

Claude Managed Agents kom i betaversjon i april og kjører, sandkasser og orkestrerer autonome Claude-agenter for deg. Prisen er innlåsing: plattformen kan bare velge blant modellene Anthropic selv tilbyr. TrueForge lar deg kjøre på egen infrastruktur, ta med dine egne modeller, MCP-servere og API-nøkler, og sende hver oppgave til modellen som passer best på kostnad, latens eller kvalitet. Repoet på GitHub er MIT-lisensiert og skrevet i TypeScript.

Argumentet til Bajaj er at laget under agenten er der kontrollen ligger.

«Kjøremiljøet er det kritiske laget mellom brukeren, språkmodellen og alt annet.» Nikunj Bajaj, medgründer og daglig leder i TrueFoundry

Det laget avgjør når en MCP-server skal kalles, hvilken kontekst som beholdes, og hvilken modell som tar hvilken del av planen. Bygger du ikke på et slikt lag, må teamet ditt skrive logikken selv, inkludert hvilke handlinger som må kjøre i en fullstendig isolert sandkasse og hvilke data som aldri skal sendes til en lukket modell.

Kostnadspåstanden er testet på 14 oppgaver på nivå én og to fra DevRevs offentlige Enterprise-Bench. Der kom TrueForge ifølge selskapet ut 50 prosent billigere med tilsvarende treffsikkerhet, en besparelse de forklarer med færre tokens og tilgang til modeller utenfor Anthropics utvalg. TrueForge støtter OpenAI, Anthropic og over 20 andre modeller, har over 40 innebygde verktøy, sandkasset kjøring, godkjenningssteg med menneske i løkka og nettsøk drevet av Tavily. Alle modellkall og MCP-kall rutes gjennom TrueFoundrys AI Gateway, slik at budsjettgrenser, ratebegrensning og sikkerhetsregler håndheves ett sted.

Bajaj vil ikke gjøre Anthropic til skurken:

«Anthropic gjør ikke noe galt her. Selskapet eier bare ikke alle modeller i verden.» Nikunj Bajaj, TrueFoundry

Poenget hans er at Anthropic må bygge ett kjøremiljø for en svært bred kundemasse, og at systemprompten derfor må dekke instrukser, sikkerhetsregler og spesialtilfeller som kanskje ikke angår deg i det hele tatt. De går likevel inn i hvert kall og koster både penger og latens. TrueFoundry lanserer også en driftet versjon med betaling per bruk, for team som vil slippe å drifte selv.

Hva bør du gjøre?

1. Mål din egen kostnad før du bytter. De 50 prosentene er målt på 14 oppgaver fra én benchmark, ikke på din arbeidsmengde.
2. Sjekk at modellene du faktisk bruker finnes blant dem som støttes, og at MCP-serverne dine lar seg peke inn uten omskriving.
3. Bestem hvilke data som aldri skal til en lukket modell, og legg den regelen i kjøremiljøet i stedet for å gjenta den i hver enkelt agent.