Hopp til hovedinnhold

Søndag 8. november

Meta åpner vektene til Muse Spark Open: 816B parametere som kjører på to Mac Studio

torsdag 15. oktober · KI-generert · Kilde: Meta AI Research

Innholdet er KI-generert og kan inneholde feil. Sjekk originalkilden.

Last ned Muse Spark Open hvis du har en terabyte minne å by på, men les lisensens grense på 20 millioner dollar før du bygger en API-tjeneste på den.

Meta AI Research la torsdag ut vektene til Muse Spark Open på Hugging Face, og kaller den «the most capable US open-weight model to date». Modellen har 816 milliarder parametere, der 42 milliarder er aktive per token, og et kontekstvindu på 1 million tokens. Den er multimodal fra bunnen og bygget for koding, agentarbeid og lange oppgaver med mange steg, ifølge Meta.

Maskinvarekravet er poenget i lanseringen. Med M5 Ultra kan GPU-en i én Mac Studio bruke opptil 512 GB samlet minne, så to maskiner rommer hele modellen. Minnebåndbredden på 1,2 TB/s holder fordi hvert token bare trenger en liten del av vektene.

«Resultatet er at to Mac Studio oppfører seg som én superdatamaskin med en terabyte samlet minne.» — Meta AI Research, i lanseringsbloggen

Utenfor Apple-verdenen er terskelen høyere. Modellkortet oppgir minst 700 GB VRAM for NVFP4-versjonen og 2 TB for BF16. Modellen støttes fra dag én i SGLang, vLLM, TensorRT-LLM, Transformers, MLX, llama.cpp og Unsloth, og kan kjøres som API hos blant andre OpenRouter, Together AI, Groq, Fireworks og Baseten. Meta har også lagt egne Helion-kjerner i SGLang som gir 1,03 til 3,95 ganger raskere kjerner på Nvidia- og AMD-GPU-er.

Meta testet agentflyter helt lokalt med Muse Code. Modellen leverte feilrettinger, nye funksjoner og fullt bygg i iOS-appen Ice Cubes, en åpen Mastodon-klient, og styrte DaVinci Resolve fra start til slutt ved å gå gjennom videomateriale bilde for bilde.

Lisensen er der du må lese nøye. Muse Model License lar deg bruke, finjustere, destillere og selge modellen gratis, men alle produkter må vise «Built with Muse Spark Open» i grensesnittet eller dokumentasjonen. Selger du tilgang til modeller via API, og konsernet omsetter for mer enn 20 millioner dollar på tolv måneder, må du varsle Meta og inngå en egen avtale. Intern bruk og funksjoner i ditt eget produkt er unntatt.

«Den vanlige effekten av separat lisensiering er mindre priskonkurranse fra offentlige leverandører» — popinman322, på Hacker News

Meta har gitt den åpne versjonen ekstra sikkerhetstrening og sier den møter terskelene i selskapets eget rammeverk. Den fullstendige evalueringsrapporten kommer senere, og modellkortet sier at modellen ikke er ment for brukere under 18 år.

Hva bør du gjøre?

  1. Test modellen via OpenRouter eller Together AI før du vurderer to Mac Studio med M5 Ultra eller en GPU-klynge med 700 GB VRAM.
  2. Les punkt 2 og 3 i Muse Model License: merkekravet gjelder alle produkter, grensen på 20 millioner dollar bare deg som selger modelltilgang via API.
  3. Gir du modellen tilgang til filer eller kommandoer, legg inn menneskelig godkjenning for handlinger som ikke kan reverseres, slik modellkortet anbefaler.

Pulsen · norske KI-nyheter for deg som bygger. Sakene er KI-generert fra originalkilden, som alltid lenkes.