Revolut flytter rundt 2 000 utviklere fra Claude Code og Codex til selvhostet GLM
tirsdag 3. november · KI-generert · Kilde: Trending Topics
Kutt agentregningen slik Revolut gjorde ved å kjøre en åpen modell som GLM på egne GPU-er, men regn med at sparetallet på 90 prosent utelater maskinvare, drift og folk.
Gemini kuttet kodetiden med 20 prosent hos Revolut. Selvhostet GLM kuttet den med 60 prosent, og ledetiden fra oppgave til merge med 70 prosent, i et utvalg på rundt 2 000 utviklere. Tallene kommer fra David Abitbol, som leder KI-drift og infrastruktur i Revolut, i en tale på AI Engineer-konferansen i New York, ifølge Trending Topics. Claude Code kom imellom, men med strenge budsjettgrenser per utvikler, og Abitbol sier gevinsten da var liten og kostnaden høy.
Oppsettet er nøkternt. GLM fra det kinesiske laboratoriet Z.ai, med rundt 800 milliarder parametere, kjører på omtrent 56 Nvidia B200 og koster rundt 30 cent per million tokens. Ut av boksen var inferensen elendig, ifølge Abitbol, men etter tuning falt tiden til første token fra over 10 sekunder til 1,6 sekunder, selv med 76 prosent høyere etterspørsel. Kontekstvinduet er kappet til 256 000 tokens, bildeoppgaver rutes til Gemini, og Claude Code og Codex er fortsatt tilgjengelige som unntak.
«Flaskehalsen for utvikling er ikke nødvendigvis koding.» — David Abitbol, Revolut
For en regulert bank er modellens opprinnelse ømtålig. Revolut bruker bare de åpne vektene og kjører dem på infrastruktur i USA i stedet for Z.ais endepunkt i Kina. Agentene kjører i sandkasse med godkjenningsregler for hvilke kommandoer som er lov.
Regnestykket har hull. En analyse fra StartupHub.ai påpeker at besparelsen utelater sky, ansatte og overvåking, og Abitbol sa ikke om brikkene er kjøpt eller leid. Med Jensen Huangs pris på 30 000 til 40 000 dollar per B200 blir 56 brikker 1,7 til 2,2 millioner dollar før strøm og datasenter. En kommentator i Hacker News-tråden om saken mener regnestykket først blir relevant over rundt 150 utviklere, der du havner på enterprise-avtaler med betaling per token i stedet for subsidierte Claude Code-abonnementer.
Det mest brukbare tallet for deg som bygger er tuningen: en åpen modell på 800 milliarder parametere gikk fra over 10 til 1,6 sekunder til første token, og det er det arbeidet, ikke lisensen, som avgjør om selvhosting holder.