Kimi K3.1 Pro-vektene er ute: 1,56 TB som kjøres på åtte B300-GPU-er

«Lisenstakeren må inngå en egen avtale med Moonshot AI før programvaren eller avledede verk brukes til noe kommersielt formål.» Den setningen i Kimi K3.1-Pro License, som følger vektene Moonshot AI nå har lagt ut på Hugging Face, gjelder bare selskaper som driver Model as a Service og har over 20 millioner dollar i samlet omsetning over 12 måneder. Repoet er på 1,56 TB fordelt på 96 safetensors-filer. Moonshot AI hadde lovet vektene innen 4. november.

Grunnteksten bygger på ordlyden i MIT-lisensen: du kan bruke, endre, finjustere, distribuere og selge modellen og avledede verk. Ett vilkår til gjelder de største. Har produktet ditt over 100 millioner månedlige brukere eller over 20 millioner dollar i omsetning per måned, må «Kimi K3.1-Pro» vises tydelig i brukergrensesnittet. Intern bruk, der verken modellen, svarene eller evnene gjøres tilgjengelige for tredjeparter, er unntatt begge kravene. Model as a Service omfatter heller ikke sluttbrukerprodukter der modellen er bygd inn i bestemte funksjoner, eller ren videresending til modeller andre hoster. For en norsk agent-app eller et internt verktøy er lisensen i praksis fri.

Hva vektene krever

Kimi K3.1 Pro er en Mixture-of-Experts-modell med 2,8 billioner parametere totalt og 104 milliarder aktive per token, fordelt på 896 eksperter der 16 velges per token. Ifølge modellkortet er den trent kvantiseringsbevisst med MXFP4-vekter og MXFP8-aktiveringer. Av 93 lag er 69 Kimi Delta Attention og 24 Gated DeepSeek Sparse Attention, som erstatter K3s Gated MLA-lag med full attention for å gjøre lang kontekst billigere. Kontekstvinduet er 1 048 576 tokens.

«Grunnoppsettet er det enkleste som fungerer på NVIDIA: én tensor-parallell gruppe på 8 GPU-er, enten to GB300-skuffer eller én B300-node.» — vLLM-prosjektets oppskrift for Kimi K3.1 Pro

Oppskriften viser også hva lang kontekst koster. Med FP8 KV-cache på 8x B300 rommer vanlig TP8 rundt 2,6 millioner tokens i cachen, mens decode context parallelism (DCP8) gir rundt 18,5 millioner, mot 7 til 25 prosent tregere decode-steg. Samme TP8-oppsett kjører på én AMD MI355X-node. Moonshot AI anbefaler vLLM, SGLang og TokenSpeed som inferensmotorer.

Bruker du API-et i stedet (modell-ID kimi-k3.1-pro på platform.kimi.ai, med OpenAI- og Anthropic-kompatibelt grensesnitt), er det én detalj som kan brekke agentløkker. I samtaler med flere runder og verktøykall krever modellen at hele assistentmeldingen sendes tilbake uendret, inkludert reasoning_content og tool_calls, ikke bare content. Tenkeinnsatsen styres med reasoning_effort (low, high eller max), og standard er max.

Hva bør du gjøre?

1. Les de fem punktene i LICENSE-fila før du bygger en betalt API-tjeneste på modellen, siden grensen på 20 millioner dollar regnes samlet for deg og tilknyttede selskaper.
2. Test modellen via Kimi API eller en inferensleverandør før du leier maskinvare, siden vLLMs grunnoppsett er åtte GPU-er av B300-klassen.
3. Sjekk at agentrammeverket ditt sender reasoning_content tilbake i hver runde, slik modellkortet krever for verktøykall over flere runder.