Antigravity SDK kjører nå agenter offline med Gemma 4 26B på egen maskin

97,2 prosent av tokenene ble kjørt lokalt i Googles egen demo av en hybrid agentflyt, der Gemini 3.8 Flash la planen og en sverm av lokale Gemma 4 26B-instanser gjorde resten. Google kunngjorde 23. september på Google Developers Blog at Antigravity SDK, Python-biblioteket som gir deg de samme agentfunksjonene som driver agent-IDE-en Google Antigravity, nå støtter lokale modeller. Den første offisielle kombinasjonen er MoE-modellen Gemma 4 26B A4B, kjørt gjennom Googles egen inferensmotor LiteRT-LM.

Oppsettet er tre steg: lag et virtualenv, kjør pip install google-antigravity litert-lm, og hent modellen fra Hugging Face med litert-lm import. Deretter peker du LiteRTAgentConfig mot modellfila i stedet for å sette en GEMINI_API_KEY, og resten av agentkoden er den samme som mot skyen. Google anbefaler over 24 GB VRAM eller unified memory, og README-en anbefaler i tillegg 64K kontekst. Googles eget kodeeksempel advarer om at lokal inferens kan ta flere minutter.

Har du allerede Ollama, LM Studio eller vLLM i gang, finnes LocalOpenAIAgentConfig, som snakker med enhver OpenAI-kompatibel server. Da bytter du inferens-backend uten å røre verktøy, arbeidsområder eller policyer. Modellvalget er likevel smalt foreløpig:

«Foreløpig fungerer dette best med gemma-4-26B-A4B-it-gpu.litertlm. Andre .litertlm-filer fungerer kanskje ikke godt, eller ikke i det hele tatt.» — README for Antigravity SDK på GitHub

Arkitekt og bygger

Mønsteret Google selv løfter fram, kaller de Architect-Builder: en skymodell planlegger, lokale modeller utfører. I demoen skulle agentene revidere og lappe tre sårbare moduler (auth.py, billing.py og database.py). Gemma-svermen reproduserte sårbarhetene, skrev fikser, kritiserte dem og kjørte regresjonstester, alt på den lokale GPU-en.

«Gemini 3.8 Flash planlegger strategien og deler opp arbeidet utelukkende basert på filnavn og oppgavebeskrivelser, og bruker bare 95 sky-tokens uten at kildekode noen gang forlater maskinen.» — Google Developers Blog

Tallene er fra én innspilt kjøring på totalt rundt 3 400 tokens, så 97,2 prosent sier mer om arbeidsdelingen enn om hva du sparer på en reell kodebase. Poenget for deg er at koden din aldri sendes til Google, bare filnavn og oppgavetekst.

Bakgrunn

Antigravity SDK kom på GitHub i april under Apache 2.0-lisens og har rundt 3 500 stjerner. SDK-et bygger på en kompilert runtime-binær som bare følger med wheel-pakkene på PyPI, der versjon 0.1.18 ble lastet opp 22. september. Å klone repoet holder derfor ikke.

Hva bør du gjøre?

1. Sjekk minnet før du laster ned: under 24 GB VRAM eller delt minne er utenfor det Google anbefaler for Gemma 4 26B.
2. Installer fra PyPI med pip, ikke fra en klone av repoet, ellers mangler runtime-binæren.
3. Prøv hybrid-eksempelet antigravity-hybrid-orchestrator i Googles Gemma-cookbook mot egne Python-moduler og tester før du stoler på 97,2-tallet.
4. Legg merke til at kodeeksempelet for ressursmonitoren bruker policy.allow_all(). Begrens agenten til et eget arbeidsområde, slik eksempelet gjør med ~/agy-test, før du slipper den løs på ekte prosjekter.