Nvidia lar KI-agenter kjøre lokalt på DGX Station

Nvidia selger nå «super-agenter på skrivebordet», men skrivebordet er en deskside-superdatamaskin i datasenter-klasse. På Siggraph annonserte selskapet at DGX Station kan kjøre KI-agenter lokalt via Nvidia Agent Toolkit, med oppsett på tre steg og rundt 30 minutter, skriver GamesBeat. Hele kjeden (modell, agent-verktøy og en sikker kjøring) ligger på maskinen uten at noe trenger nett.

Kjernen er Nemotron 3 Ultra, en åpen modell på 550 milliarder parametere som ifølge Nvidia er optimalisert for selskapets GB300-brikke. Rundt den ligger Agent Toolkit med byggeklosser for autonome agenter, Omniverse-biblioteker som gir agentene verktøy for fysikksimulering og 3D, og en sandkasse-kjøring som holder agentene isolert. LangChain har tunet sin Deep Agents-kjøreramme for modellen, og Nous Research har tatt den i produksjon for sin Hermes-agent.

«DGX Station er den ultimate deskside-superdatamaskinen for KI-æraen» — Adel El Hallak, visepresident for agentisk KI i Nvidia

For deg som bygger lokalt er lokkemiddelet økonomien: når maskinvaren først er kjøpt, forsvinner kostnaden per token, og du eier både modellen og dataene. Men DGX Station er bygget rundt GB300 Grace Blackwell Ultra, med opptil 20 petaflops FP4-ytelse og 748 GB sammenhengende minne, altså datasenter-maskinvare i skrivebordsform og ikke en PC du allerede har. Maskinen selges av ASUS, Dell, HP, MSI og Supermicro, men Nvidia har ikke oppgitt pris.

Hva bør du gjøre?

1. Vil du prøve Nemotron 3 Ultra uten DGX Station: sjekk om de åpne vektene passer maskinvaren din. 550 milliarder parametere krever kraftig GPU-minne selv kvantisert.
2. Bygger du agenter nå: se på «playbooks»-oppskriftene Nvidia har lagt ut, som viser oppsett med lokal LLM på DGX Station.
3. Vurderer du innkjøp: vent på uavhengige tall og pris før du regner hjem token-besparelsen, siden Nvidia foreløpig ikke har publisert noen av delene.