Datasenter-CPU-er har blitt solgt på kjernetall i over et tiår. NVIDIA går motsatt vei med Vera: brikken har 88 kjerner, men designet er optimalisert for hvor fort én enkelt kjerne kommer gjennom instruksjonsstrømmen. Begrunnelsen er agent-løkka. Modellen resonnerer, kaller et verktøy, leser resultatet og verifiserer det før den går videre. Hvert ledd venter på det forrige, og da setter farten i én kjerne taket, ikke antallet kjerner. NVIDIA oppgir at de nye Olympus-kjernene i Vera leverer 50 prosent flere instruksjoner per klokkesykel enn forgjengeren Grace.
Brikken er bygget på én monolittisk compute-die, et valg NVIDIA begrunner med lavere latens og bedre dataflyt enn chiplet-design. Den har opptil 1,2 TB/s LPDDR5X-minnebåndbredde med et effektbudsjett under 40 watt for minneoperasjoner, og 3,4 TB/s båndbredde mellom kjernene. Det siste tallet er ifølge NVIDIA tre ganger høyere enn vanlige datasenter-CPU-er, og poenget er å holde båndbredden oppe over alle kjernene samtidig.
Perplexity har testet brikken mot x86-maskinvare i kodeflyter. Selskapet rapporterer at kloning av repoer og kjøring av testsuiter går rundt 1,5 ganger raskere, mens oppstart av parallelle sandboxer er opptil 1,9 ganger raskere. Alle disse tallene kommer fra NVIDIA og partnerne selv. Ingen uavhengig benchmark er publisert, og neste generasjon, «Rosa» med Rigel-kjerne på Arm v9.2, er allerede varslet.
Du kommer ikke til å kjøpe en Vera-CPU. Det anvendbare her er diagnosen. Står GPU-en og venter mens agenten kloner et repo, installerer avhengigheter og kjører tester, ligger flaskehalsen i CPU og I/O, ikke i inferens, og da gir mer GPU-kapasitet ingenting. Fordelingen mellom inferens og verktøykall i veggklokke-tid er målbar i din egen agent-løkke, og oppstartstiden for sandboxer betales på nytt for hvert steg. Multiplene over tåler uansett ikke mye vekt ennå: de er leverandørens egne målinger på leverandørens egne arbeidslaster.