Beam-vektene er ute: Reflections 501B-modell trenger rundt 280 GB i NVFP4

Reflection AI publiserte vektene til Beam på Hugging Face 16. oktober, ifølge selskapets eget lanseringsinnlegg. De kommer i tre presisjoner (BF16, FP8 og NVFP4), sammen med en egen drafter-modell for spekulativ dekoding. Hugging Face har publisert en lang teknisk gjennomgang: arkitektur, kommandoer for å kjøre modellen og oppskrifter for finjustering og forsterkningslæring.

Med vektene ute ser du hva en MoE-modell med 501 milliarder parametere og 23 milliarder aktive faktisk krever. BF16-sjekkpunktet er rundt 1 TB, mens NVFP4-versjonen lagrer de fleste vektene i 4 bit og krymper det til omtrent 280 GB.

«Alle 256 ekspertene ligger i minnet, så utrullingen trenger minnet til en 501B-modell, men kjører i farten til en 23B-modell.» — Hugging Face, i den tekniske gjennomgangen

Hugging Face anbefaler fire B200-er (720 GB) for NVFP4. To holder vektene, men gir lite rom til aktiveringer og KV-cache. NVFP4 kjører bare nativt på Blackwell, så på Hopper bruker du FP8-sjekkpunktet på åtte H200-er. Et oppsett med åtte RTX Pro 6000 nevnes også. Beam er altså ingen hjemmelab-modell, men realistisk på én leid GPU-node.

Lang kontekst er billigere enn størrelsen tilsier. 43 av 52 lag bruker glidende vindu over de siste 512 tokenene, og bare 9 lag ser hele konteksten. Ifølge Hugging Face tar en full kontekst på 1 million tokens dermed rundt 36 GiB KV-cache per sekvens. Kvantiseringen koster lite: SWE-bench Verified faller fra 81,6 til 80,7 prosent i NVFP4, og Terminal Bench v2.1 fra 80,1 til 78,2 prosent. Tallene er Reflections egne.

Reflection slipper også Mirror CLI, et åpent agentverktøy med kjerne i Rust og et Python-lag for prompts, skills og MCP-tilkoblinger. Beam er trent sammen med Mirror, men selskapet sier modellen også er testet med Pi, OpenCode og Hermes. Over 40 partnere og integrasjoner er med fra start, og plattformlisten spenner fra AWS og Google Cloud til OpenRouter, Ollama og LM Studio. Reflection kaller helheten et åpent operativsystem for agenter.

«Modellen er kjernen, og alt over infrastrukturlaget er åpent.» — Reflection AI, i lanseringsinnlegget

For deg som vil tilpasse modellen, er finjusteringstallene det mest konkrete. LoRA-SFT med TRL kjører på én node med åtte B300-er og rundt 19 000 tokens i sekundet. Etter én epoke på datasettet Multilingual-Thinking resonnerte Beam på språket brukeren ba om i 16 av 16 testprompter, mot 3 av 16 for basismodellen. Full forsterkningslæring med GRPO i Miles er en annen liga: referanseoppsettet bruker 96 H200-er. Reflection deler i tillegg ut 10 000 dollar i Hub-kreditter til de beste prosjektene bygget på Beam.

Hva bør du gjøre?

1. Test Beam via Hugging Face Inference Providers (Baseten, Fireworks og Together) med modell-id reflection/Beam-1.0-501B-A23B:auto før du leier GPU-er, siden endepunktet er OpenAI-kompatibelt.
2. Leier du en node, start med FP8 på åtte H200-er eller NVFP4 på fire B200-er, og slå på DFlash2-drafteren for raskere generering.
3. Vil du styre hvilket språk modellen resonnerer på, er LoRA-oppskriften med TRL og Multilingual-Thinking stedet å begynne.