NVIDIA Nemotron 3 Embed topper RTEB: åpne embedding-modeller for RAG og agent-minne

78,5 % på RTEB er tallet NVIDIA slår i bordet med når selskapet slipper Nemotron 3 Embed, en samling åpne embedding-modeller for retrieval. Flaggskipet Nemotron-3-Embed-8B rangeres som nummer én på RTEB (målt 15. juli 2026), mens to 1B-varianter er bygget for produksjon der latens og kostnad teller mest.

Embedding-modeller er motoren i RAG og agent-minne: de gjør tekst, kode og dokumenter om til vektorer du kan søke semantisk i. Nemotron 3 Embed har 32k kontekstvindu, støtter flerspråklig og kode-retrieval, og kommer med åpne vekter, datasett og oppskrifter. 1B-modellen scorer 72,4 % på RTEB og kutter feilraten med 27 % mot forgjengeren.

For deg som bygger RAG eller agenter er avveiningen throughput mot kvalitet: 1B-NVFP4-varianten kjører opptil dobbelt så raskt som BF16 på Blackwell-kort og beholder over 99 % av nøyaktigheten. Alt er tilgjengelig fra dag én på Hugging Face, kjørbart via vLLM eller som NVIDIA NIM-mikrotjeneste.

Hva bør du gjøre?

1. Test 1B-BF16 først hvis du kjører retrieval på CPU eller vanlig GPU, den gir mesteparten av 8B-kvaliteten til en brøkdel av kostnaden.
2. Velg 8B-BF16 når presisjon er kritisk, og 1B-NVFP4 hvis du har Blackwell-maskinvare og trenger maks throughput.
3. Bruk de åpne fine-tuning-oppskriftene (NeMo AutoModel) til å tilpasse modellen på egne data før du bytter ut embedding-laget i produksjon.