GoModel: åpen kildekode-gateway som ruter LLM-kall til 10 leverandører fra ett endepunkt

GoModel ble sluppet som Show HN 21. april og fikk 155 poeng samme dag. Prosjektet står på GitHub-kontoen ENTERPILOT og løser et kjent problem for utviklere som vil eksperimentere på tvers av modelleverandører: hver leverandør har eget SDK, egen prising og egen rate limit. GoModel gir deg ett endepunkt på port 8080 som tar imot OpenAI-formatterte requests og ruter dem videre basert på hvilken modell du ber om.

Du starter serveren med én docker run-kommando og sender inn API-nøkler som miljøvariabler eller via --env-file. Prosjektet lister OpenAI, Anthropic, Google Gemini, Groq, OpenRouter, Z.ai, xAI, Azure OpenAI, Oracle og Ollama som støttede leverandører. Funksjonsmatrisen er ujevn: alle støtter chat og /responses, mens embeddings, filer og batches varierer fra leverandør til leverandør. Passthru-modus, som sender requesten videre uendret, finnes for flere av dem.

For deg som bygger lokalt er Ollama-støtten interessant. Du kan peke OLLAMA_BASE_URL til http://host.docker.internal:11434/v1 og plutselig har du en lokal Llama 3.2 tilgjengelig gjennom samme OpenAI-klient som du bruker mot Claude eller GPT-5. Samme prinsipp for Z.ai sitt GLM Coding Plan: sett ZAI_BASE_URL=https://api.z.ai/api/coding/paas/v4 og du får tilgang til GLM-4.5 via den vanlige OpenAI-SDK-en.

>_ NØKKELTALL

10 leverandører: OpenAI, Anthropic, Gemini, Groq, OpenRouter, Z.ai, xAI, Azure, Oracle og Ollama

Port 8080: standardport for gatewayen når du kjører Docker-imaget

155 poeng: fikk Show HN-innlegget samme dag

Prosjektet er ikke alene i markedet. LiteLLM, OpenRouter og Portkey dekker lignende behov, og LiteLLM har kommet lenger på observability og fallback-logikk. Det GoModel tilbyr som er annerledes, er et enkelt Go-binary uten avhengighet til Python-stacken, og en tydelig preferanse for .env-filer framfor -e-flagg for å unngå nøkkellekkasje via shell-historikk.

For norske bygg-prosjekter hvor du vil teste flere modeller mot samme agent-løkke, er dette en lavterskel måte å komme i gang på. Du slipper å skrive abstraksjonslag selv. Men vær oppmerksom på at GoModel fortsatt er tidlig, og at produksjonsbruk bør gå gjennom tradisjonell vurdering: autentisering, rate limiting, og revisjonslogger er på forbrukerens ansvar.

Hva bør du gjøre?

Kjør docker run --rm -p 8080:8080 --env-file .env enterpilot/gomodel og pek OpenAI-SDK-en din mot http://localhost:8080/v1 for en rask smaksprøve
Sammenlign med LiteLLM før du velger for produksjon. LiteLLM har bedre observability og fallback-logikk i dag
Kombiner GoModel med CrabTrap (Brex' nye sikkerhetsproxy) hvis du vil kjøre en autonom agent mot flere leverandører med policy-basert blokkering