432 milliarder parametere, men bare 28 av dem aktive per token: det er arkitekturen bak GigaChat 3.5 Ultra, som den russiske storbanken Sber slapp som open source 7. juli, ifølge IT Brief. Modellen er samtidig gratis tilgjengelig gjennom Sbers egen GigaChat-assistent.
Sber bygde modellen på en egenutviklet arkitektur med det selskapet kaller lineær oppmerksomhet. I stedet for å reprosessere hele den foregående sekvensen hver gang et nytt ord legges til, beholder modellen kjernekonteksten i lange tekster. Sber oppgir at den skriver og verifiserer kode mer pålitelig enn forrige toppmodell og produserer langtekst opptil fire ganger raskere, samtidig som den er nesten halvparten så stor som GigaChat Ultra. Det senker maskinvarekravet for å kjøre den selv.
«Vi har bevist at det er mulig å bygge en sterk modell med en egenutviklet arkitektur og med fundamentalt færre ressurser» — Anton Frolov, Senior Vice President og leder for GenAI-utvikling i Sber
For deg som bygger er det de aktive parameterne som avgjør maskinvarebudsjettet. Med 28B aktive per token ligger inferens-kostnaden nærmere en 30B-modell enn en 432B tett modell, selv om totalvekten er stor. På Hugging Face ligger modellen ute som ai-sage/GigaChat3.5-432B-A28B med både bf16- og GGUF-bygg, der GGUF-varianten gjør det mulig å kjøre kvantiserte utgaver lokalt uten Sbers egen infrastruktur. Modellen er merket med tool-use og long-context, som passer bruksmønsteret Sber sikter mot: agenter som søker etter informasjon, skriver og kjører kode, kaller eksterne tjenester og returnerer et ferdig resultat.
Sber sier interne tester la modellen tett opp mot DeepSeek 3.2 på flere mål, samtidig som den er vesentlig mer kompakt. Selskapet publiserte ingen full benchmark-tabell i lanseringen, og påstandene er foreløpig Sbers egne. Ytelsen bør derfor verifiseres mot egne oppgaver før du stoler på tallene. Sber beskriver den likevel som en av de største open source-modellene bygget med lineær oppmerksomhet, trent på et utvidet datasett av naturlige, menneskeskrevne tekster gjennom flere klassifiserings- og filtreringsledd.
Konteksten er verdt å merke: Sber er Russlands største bank, og lanseringen er et forsøk på å bygge et utviklerøkosystem rundt egenutviklet teknologi framfor vestlige plattformer. For nordiske byggere betyr det en ny open source-vekt i markedet, men også et leverandørspørsmål rundt opphav, vedlikehold og lisens du bør avklare før produksjon.
Hva bør du gjøre?
- Hent GGUF-byggene fra ai-sage/GigaChat3.5-432B-A28B og test en kvantisert variant lokalt hvis du har VRAM til rundt 28B aktive parametere.
- Kjør dine egne kode- og agentoppgaver mot modellen framfor å stole på Sbers interne tester, siden ingen full benchmark-tabell er publisert.
- Sjekk lisens og opphavskrav før du legger modellen inn i et produkt, gitt at Sber er et russisk statsnært selskap.