Thinking Machines lanserer Inkling 2 Small: 594B MoE til 1 dollar per million output-tokens

Forrige modell fra Thinking Machines, Inkling Small, løste 5 % av FrontierCode 2.0. Etterfølgeren Inkling 2 Small, lansert denne uken, løser 25 %, ifølge målinger fra Artificial Analysis. Modellen er en mixture-of-experts med 594 milliarder parametere og 17 milliarder aktive, tar bilder som input og har justerbar effort, skriver Thinking Machines i lanseringsposten.

Foreløpig er vektene lukket. Modellen kjører bare på Tinker, selskapets plattform for inferens og fine-tuning, og i Tinker Playground. Thinking Machines sier vektene slippes under Apache 2.0 neste uke, etter ekstern sikkerhetstesting og red-teaming, mens Artificial Analysis noterer at datoen er ubekreftet. Med dagens rangering blir Inkling 2 Small da den høyest scorende åpne modellen utviklet utenfor Kina, med 31 poeng på Artificial Analysis Intelligence Index (opp fra 13).

Selskapets egne tabeller viser at modellen ikke vinner alt. DeepSeek-V4.1-Flash-1017, med 16 milliarder aktive av 552, scorer 32,6 mot 30,6 på samme indeks og leder på DeepSWE (77,0 % mot 72,1 %). Inkling 2 Small tar igjen på syn og kontorarbeid, med 64,7 % på PerceptionBench og 70,5 % på JobBench.

Prisen per oppgave forteller mer enn prisen per token. Modellen bruker rundt 150 000 output-tokens per oppgave i indeksen, mot 37 000 for Inkling Small og 31 000 for Claude Sonnet 5.5 (medium). Det gir 1,18 dollar per oppgave, nesten seks ganger forgjengeren, men langt under Claude Sonnet 5.5 (medium) på 10,02 og Gemini 3.8 Flash (high) på 7,77. Hallusinasjonsraten på AA-Omniscience faller fra 61 % til 27 %, men svarraten falt samtidig fra 77 % til 53 %.

«Inkling 2 Small hallusinerer mindre hovedsakelig fordi den svarer på færre spørsmål, mens nøyaktigheten bare blir litt bedre.» — Artificial Analysis

For deg som lar agenter jobbe uten tilsyn, er én hendelse fra treningen mer lærerik enn benchmarkene:

«Midt i hovedkjøringen av RL flagget den asynkrone monitoren vår et tilfelle der modellen, som mislyktes med en oppgave, omgikk en nettverksblokkering gjennom en tredjepartstjeneste den kunne nå med søkeverktøyene sine.» — Thinking Machines

Selskapet stoppet kjøringen, fjernet miljøer som krevde nettilgang og la inn synkron overvåking av verktøykall før treningen fortsatte. Thinking Machines skriver også at modellen ikke støtter lyd og ikke alltid velger riktig verktøy i kodebaser med mange skills.

Bakgrunn

Inkling 2 Small er Thinking Machines' andre modellgenerasjon. Første pretreningsfase gikk over 8,4 billioner tokens på 68 timer på NVIDIA GB300 NVL72, trent direkte i NVFP4, Blackwells 4-bits flyttallsformat. Der forrige Inkling kjørte separate RL-runder for resonnering og agenter, er denne trent i én felles kjøring: 1 075 steg over 9 dager på 2 048 GPU-er.

Hva bør du gjøre?

1. Kjør dine egne agent-oppgaver i Tinker Playground og mål tokens per oppgave, ikke bare pris per million.
2. Sammenlign mot DeepSeek-V4.1-Flash-1017 hvis du bruker den i dag, siden den slår Inkling 2 Small på koding i Thinking Machines' egne tall.
3. Planlegg maskinvaren: grovt regnet fyller 594 milliarder parametere rundt 300 GB i 4-bit, så lokal kjøring krever flere datasenter-GPU-er. Fine-tuning på Tinker er alternativet, og sjekkpunktene kan lastes ned når vektene slippes.