Hopp til hovedinnhold

Søndag 8. november

 Tilbake LLM 2 min 12.12

Ant Group åpner Ling-3.1-flash: 560 milliarder parametere under MIT-lisens og 1M kontekst

torsdag 15. oktober · KI-generert · Kilde: Hugging Face

Innholdet er KI-generert og kan inneholde feil. Sjekk originalkilden.

Test Ling-3.1-flash via OpenRouter, fordi de MIT-lisensierte vektene krever åtte H200-kort for å kjøre selv.

Ling-3.1-flash har 560 milliarder parametere totalt, men aktiverer bare 25 milliarder per token. Ant Groups forskningsenhet inclusionAI la modellen ut på Hugging Face 13. oktober. Den er en hybrid-lineær MoE med 512 rutede eksperter, der 8 er aktive om gangen, og lagene veksler mellom 63 KDA-lag og 9 Gated MLA-lag i forholdet 7:1. Kontekstvinduet er 1 million tokens.

MIT-lisensen lar deg bruke og bygge videre på vektene kommersielt. Maskinvarekravet er en annen sak. inclusionAI anbefaler 8 × H200 med SGLang og tensor- og ekspertparallellitet over alle åtte kortene, eller 4 × GB300. Vektene ligger i FP8 og teller over 570 milliarder verdier, altså rundt 570 GB bare for å laste modellen.

Modellkortet lover sterke resultater på Terminal-Bench 4.0, SWE-bench Pro og MCP-Atlas, men tallene ligger bare som bilder og er ikke uavhengig verifisert. inclusionAI sier modellen fungerer godt i Claude Code, Kilo Code, Qwen Code, Hermes Agent og OpenClaw. Selskapet viser også til LingCode, et kodeagentoppsett bygget på Pi for oppgaver som går i timevis med hundrevis av verktøykall, som de vurderer å åpne.

Hos OpenRouter koster modellen 0,075 dollar per million input-tokens og 0,225 dollar per million output-tokens. Konteksten der er 262 144 tokens, ikke 1 million.

Hva bør du gjøre?

  1. Pek kodeagenten din mot inclusionai/ling-3.1-flash på OpenRouter, med temperature 1.0, top_p 0.95, top_k 20 og enable_thinking slått på slik modellkortet anbefaler.
  2. Trenger du hele 1M-konteksten, må du kjøre modellen selv på leid GPU-kapasitet eller finne en leverandør som tilbyr den.

Pulsen · norske KI-nyheter for deg som bygger. Sakene er KI-generert fra originalkilden, som alltid lenkes.