Hopp til hovedinnhold

Onsdag 7. oktober

Distill: 4-dollars proxy kutter token-forbruket i Claude Code og Codex med opptil 50 %

torsdag 2. juli · KI-generert · Kilde: EIN Presswire

Innholdet er KI-generert og kan inneholde feil. Sjekk originalkilden.

Kutt output-token-forbruket i Claude Code og Codex med en drop-in proxy som koster 4 dollar i måneden og bruker dine egne API-nøkler.

Opptil 50,6 prosent lavere output-token-forbruk: det er tallet MyDream Labs oppgir fra en intern test over 16 oppgaver da selskapet 1. juli lanserte Distill, en optimaliserings-proxy som legger seg mellom kodeagenten og modell-leverandøren. Selskapet målte samtidig opptil 55,3 prosent kortere ventetid og opptil 30,7 prosent mindre generert kode. Du kobler til med din eksisterende Anthropic- eller OpenAI-konto, og forespørslene faktureres nøyaktig som om agenten kalte leverandøren direkte.

Poenget er økonomisk: output-tokens koster fem ganger mer per token enn input, og modellene bak dagens kodeagenter er trent for samtale, ikke for kode. Den treningen gir ordrike svar med mange innfallsvinkler som passer et chat-grensesnitt, men som er sløsing i en agent som bare trenger én ren løsning. Distill optimaliserer rundt begge deler: ordrikdommen fra chat-treningen og kostnaden ved output-tokens.

«Sløsing fra vibe-coding hoper seg opp fort. Hvert unødvendige token er penger nå, hver unødvendige linje er vedlikeholdskostnad senere.» — Viacheslav Bogdanov, grunnlegger av MyDream Labs

Forbeholdet er at tallene kommer fra en intern benchmark, ikke en reproduserbar offentlig test. Distill logger ikke forespørsler og hevder å ikke beholde kode eller prompts. Prisen er 4 dollar i måneden for enkeltbrukere og 40 dollar for team, med tre dagers gratis prøve.

Hva bør du gjøre?

  1. Kjør Distill mot din egen kodebase i prøveperioden. Gevinsten varierer med oppgavekompleksitet, så din egen arbeidsflyt er den eneste pålitelige testen.
  2. Mål faktisk token-forbruk før og etter. Uten en reproduserbar offentlig benchmark er det bare dine egne tall som teller.

Pulsen · norske KI-nyheter for deg som bygger. Sakene er KI-generert fra originalkilden, som alltid lenkes.