Aikido Altar krymper GLM-5.3 til 328 GB og beholder 23 av 25 sårbarhetsfunn

78,2 prosent mindre lagringsplass enn GLM-5.3 i full presisjon. Det er regnestykket bak Altar, den første sikkerhetsmodellen med åpne vekter fra Aikido Security. Z.AIs modell fyller 1,51 TB, AWQ-kvantisering til INT4 tar den ned til 488 GB, og ekspert-pruning med Cerebras-metoden REAP kutter ytterligere 160 GB til 328 GB. Altar beholder 168 av 256 eksperter per lag, og ruteren velger fortsatt åtte per token, som ifølge modellkortet gir rundt 40 milliarder aktive parametere.

Begrunnelsen er minne. En MoE-modell må lagre hele ekspertbanken selv om sikkerhetsarbeid bare bruker en liten del av den, og agentenes voksende kontekst konkurrerer om det samme GPU-minnet. Aikido kalibrerte hvilke eksperter som skulle bort med spor fra sin egen pentest-løsning, pluss flerspråklig tekst slik at modellen fortsatt forstår dokumentasjon på for eksempel fransk og nederlandsk. Ingen kundedata ble brukt, skriver selskapet. Valget av eksperter krevde mer enn å telle bruk:

«Det finnes ikke et pent merket sett med cyber-eksperter å beholde eller kaste.» — Aikido Security

Testen er Aikidos interne CVE-benchmark med 32 kjente sårbarheter i 30 repoer, kjørt tre ganger per sak:

Aikido presiserer at benchmarken måler målrettet gjenfinning av kjente sårbarheter. Den tester ikke blind leting i en hel kodebase, validering med exploits eller forslag til patcher.

Vektene ligger på Hugging Face som AikidoSec/altar-1 under GLM-5.3-lisensen. Modellkortet oppgir fire H200 (eller H100) med vLLM og 131 072 tokens kontekst, men serve-kommandoen der peker på aikido/altar-1, som ikke er et offentlig repo, så bytt til AikidoSec/altar-1. For de fleste som bygger selv er metoden mer interessant enn modellen: 0xSero, som gjorde selve prune-jobben, har publisert fidelity-studien og en 569B-variant av samme kutt.