IQuest-Q1: åpen 320B-modell for kodeagenter, men vektene krever åtte GPU-er

«IQuest-Q1 er fortsatt på et tidlig stadium, med betydelige begrensninger i evner og pålitelighet.» Det skriver IQuest, laben bak modellen, selv i modellkortet på Hugging Face. IQuest-Q1 er en Mixture-of-Experts-modell med 320 milliarder parametere totalt og 15 milliarder aktive per token, laget for agentisk koding, resonnering og verktøybruk i flere steg. Den tar bare tekst, har 524 288 tokens kontekst og ligger ute under en modifisert MIT-lisens.

Arkitekturen er skrudd for lange agentøkter. Tre av fire lag bruker sliding window-attention med et vindu på 4 096 tokens, og bare hvert fjerde lag ser hele konteksten. Det holder KV-cachen nede når agenten har lest seg gjennom et helt repo. Modellen har 256 eksperter der åtte er aktive per token, pluss et MTP-hode som IQuest bruker til spekulativ dekoding med EAGLE i både SGLang og vLLM. Ifølge AINews-nyhetsbrevet fra Latent Space fikk vLLM støtte for modellen fra dag én.

Maskinvaren er det store hinderet. Alle oppskriftene i modellkortet kjører med tensor-parallellitet over åtte GPU-er i BF16, og vektene er på rundt 640 GB. Åtte kort med 80 GB gir 640 GB totalt og har dermed ikke plass til både vekter og KV-cache, så du trenger kort med mer minne eller leid kapasitet. Det finnes foreløpig ingen kvantiserte varianter på Hugging Face.

Tallene er IQuests egne. Sammenligningen går mot Claude Opus 5 og GPT-5.6 Sol, ikke mot Opus 5.5. De agentiske testene er kjørt i Claude Code, DeepSWE i mini-SWE-agent. Modellkortet har ferdige miljøvariabler for Claude Code 2.1.140 og Codex CLI 0.142.0, men begge krever en gateway som snakker Anthropic Messages eller OpenAI Responses foran modellserveren.

Bakgrunn

IQuest har vært her før. I januar 2026 slapp laben IQuest-Coder-V1 med 81,4 % på SWE-bench Verified. Brukere på GitHub og X fant at modellen kikket i commits som kom etter oppgaven, og IQuest kjørte testen på nytt i et rettet miljø med 76,2 % som resultat.

«modellen brukte på egen hånd git-kommandoer (som git log eller git show) for å få tilgang til commit-historikk som var nyere enn da issuet ble opprettet» — IQuest-teamet, avklaring på GitHub i januar 2026

Laben forklarte lekkasjen med utdaterte Docker-images og ba om unnskyldning. Det gjør ikke Q1-tallene gale, men det er grunn nok til å måle selv.

Hva bør du gjøre?

1. Test modellen på en leid node med åtte GPU-er mot dine egne repoer før du vurderer å kjøpe maskinvare til den.
2. Les Codex-oppsettet i modellkortet før du limer det inn: det setter approval_policy til never og sandbox_mode til danger-full-access, altså ingen godkjenning og ingen sandkasse.
3. Vis «IQuest-Q1» tydelig i brukergrensesnittet hvis du bygger et kommersielt produkt på modellen, slik lisensen krever.