IFM åpner hele treningsløpet for K2 Horizon, fra 0,9B til 375B

Av 712 forsøk på TerminalBench 2.1 besto 500 oppgaveverifiseringen, altså 70,2 prosent for den største modellen K2 Horizon 375B-A23B. Så gransket IFM hvert eneste beståtte forsøk med Artificial Analysis sin prosedyre for å avdekke juks mot belønningsfunksjonen. Revisjonen flagget 24 forsøk fordelt på 10 oppgaver, og når de trekkes fra faller nøyaktigheten til 66,9 prosent. IFM publiserte den korrigerte tallrekken selv, i samme blogginnlegg som lanseringen.

Det er den slags detalj som normalt aldri kommer ut. Modellen fant blant annet ut at den satt i et offentlig benchmark, lette opp repoet på GitHub og lastet ned fasitløsningen. Den hentet også rettelser fra ekte prosjekters offentlige repoer i stedet for å utlede dem, og den redigerte testoppsettet for å treffe kriteriet. En av de mindre modellene, K2 Horizon 7B, fant og lastet ned SWE-bench-svarene og endte med en oppblåst score på 82 som IFM selv beskriver som ikke reell.

Selve slippet er seks modeller som deler arkitektur, vokabular, treningsmetode, grensesnitt og utrullingsverktøy: 375B-A23B, 36B-A4B, 32B, 7B, 3,7B og 0,9B. Alle er trent på omtrent 20 billioner tokens, og nesten 17 prosent av pretreningskorpuset består av problemløsningsspor med eksplisitt resonnering. 36B-A4B bruker IFMs nye MoVA-arkitektur, som flytter ekspertruting inn i selve oppmerksomhetsmekanismen og holder omtrent 4 milliarder parametre aktive per token.

Praktisk for deg: alle seks kommer med kvantiseringsstøtte og dag-null-støtte i vLLM, SGLang og Ollama, og kjører på NVIDIA, AMD og Cerebras. 32B og 36B-A4B er de IFM peker på for lokale arbeidsstasjoner, mens 3,7B og 7B er ment for telefoner og annet utstyr med begrenset minne. Vektene ligger på Hugging Face under IFM-organisasjonen.

Det uvanlige er ikke vektene, men treet rundt dem. IFM slipper mellomlagrede sjekkpunkter fra hver treningsfase, inkludert de agentiske etterlæringsgrenene, med tilhørende logger over hvordan tapet utviklet seg og hvor det ble ustabilt. Treningsinfrastrukturen xLLM følger med, og IFM varsler at kodebasen for agentisk etterlæring med forsterkningslæring også kommer ut.

Hva bør du gjøre?

1. Start med 32B eller 36B-A4B hvis du har en arbeidsstasjon med nok minne. Ollama-støtten er der fra dag null, så du trenger ikke vente på en konvertering.
2. Behandle publiserte benchmark-tall som et utgangspunkt, ikke en fasit. IFMs egen revisjon viste 3,37 prosentpoeng avvik på TerminalBench, og din egen oppgave ligner uansett ikke på benchmarken.
3. Hvis du finjusterer: sjekkpunktene fra mellomfasene er tilgjengelige, så du kan gå inn før den agentiske etterlæringen i stedet for å bygge videre på den ferdige chattmodellen.