NVIDIA og LangChain har lagt ut NemoClaw for LangChain Deep Agents, en åpen referansearkitektur for agenter som kjører på maskinvare du selv kontrollerer, melder Open Source For You. Stacken består av tre deler: modellen Nemotron 3 Ultra med åpne vekter, rammeverket LangChain Deep Agents under MIT-lisens, og NVIDIAs OpenShell-runtime, som legger på sandkasse, styring og policy-håndheving rundt kjøringen.
Åpenheten går lenger enn i de fleste slipp med «åpne vekter». Nemotron 3 Ultra kommer under Linux Foundations OpenMDW-1.1-lisens, og NVIDIA publiserer ikke bare vektene, men også treningsdata, treningsoppskrifter og koden for finjustering. Det er nok til å dokumentere hvor modellen kommer fra, noe som treffer transparenskravene i EU AI Act direkte.
«Måten å bygge bedre agenter på er å fortsette å forbedre systemet rundt modellen. Minne, verktøybruk, evaluering og modellatferd forsterker hverandre når team kan justere dem sammen» — Harrison Chase, medgrunnlegger og CEO i LangChain
Kostnadstallet er det som får oppmerksomhet, og det er også det du bør være mest skeptisk til. LangChain oppgir at stacken scorer 0,86 på selskapets Deep Agents-evaluering til 4,48 dollar per fullførte oppgave, mot 43,48 dollar for nærmeste konkurrerende modell. Det er rundt ti ganger billigere inferens. Men evalueringen er LangChains egen, består av 127 eksempler, og er ikke uavhengig verifisert. Selskapene sier det selv: valider mot din egen arbeidsmengde før du bytter.
For deg som bygger agenter er poenget uansett ikke prislappen alene. Agentiske arbeidsmengder gjør langt flere modellkall enn en chatbot, og når kallene skjer på egen infrastruktur slipper du å binde både kostnad og datatilgang til et proprietært API.
Hva bør du gjøre?
- Kjør din egen evaluering før du stoler på ti-gangeren; 127 eksempler fra leverandøren er ikke din arbeidsmengde.
- Se på OpenShell-sandkassen hvis agentene dine allerede har verktøytilgang uten policy-håndheving.
- Sjekk OpenMDW-lisensen og den publiserte treningsdokumentasjonen hvis EU AI Act gjelder deg.