Nvidias SoL-Pi kutter tokenbruken til kodeagenter med 45 til 49 prosent

«Bruk mindre uten å få agenten til å gjøre mindre nyttig arbeid», skriver Nvidia-teamet bak SoL-Pi i README-en på GitHub. Prosjektet er fire effektiviseringsmekanismer for den åpne kodeagenten Pi. I artikkelen forskerne la ut på arXiv 17. september bruker den komplette pakken 44,7 til 49 prosent færre tokens enn Pi på de 51 offentlige EdgeBench-oppgavene, med sammenlignbar score.

En forskningsagent fant mekanismene. Den leste sporene til en annen agent, foreslo endringer i styringslaget rundt modellen og testet dem i 535 kjørbare miljøer, blant dem 495 oppgaver bygd fra par av GitHub-issues og pull requests. EdgeBench ble holdt helt utenfor søket, fordi automatisk optimaliserte agentoppsett ellers har en tendens til å bare passe oppgavene de ble trent på.

Action Fusion lar en redigering kjøre valideringskommandoen sin i samme verktøykall, så ett modellkall forsvinner. ObservationPack gjør store, gjentatte verktøyresultater om til korte referanser med eksakt oppslag. Evidence-Preserving Reducer sender lange feillogger til en billigere modell og godtar sammendraget bare når hvert sitat i det matcher originalen. Online Context Compact vurderer å komprimere konteksten hver gang et plansteg er ferdig, og regner inn kostnaden ved å skrive prompt-cachen på nytt.

Effektivitetsvarianten beholder 93,7 prosent av Pis score med 49 prosent færre tokens og 33,2 prosent lavere tokenkostnad. SoL-Pi ble utviklet kun på GPT-5.6 Sol, men beholdt 94,3 prosent av Pis score da forskerne kjørte det uendret på Opus 5. På 63 CPU-oppgaver fra Terminal-Bench 4 løste SoL-Pi 15, mot 18 for både Codex og Pi, men til 26,3 prosent lavere totalkostnad enn Pi. Forskerne anslår besparelsen til 8,75 til 13,50 dollar i timen sammenlignet med Codex og Claude Code med deres innebygde agentoppsett.

Hva bør du gjøre?

1. Installer den testede Pi-versjonen med npm install --global @earendil-works/pi-coding-agent@0.85.1, og deretter pi install git:github.com/NVlabs/SoL-Pi. Du trenger Node.js 22.19 eller nyere.
2. Slå på actionFusion og observationPack i sol-pi.json først, siden README-en beskriver dem som de to lokale mekanismene uten ekstra modellkall. Alle fire er av som standard.
3. La Evidence-Preserving Reducer være av for logger som må forbli lokale, fordi den kan sende logginnhold til reduksjonsmodellen du konfigurerer.