En 4B-modell kuttet 44,7 prosent av latensen på 113 Postgres-spørringer

44,7 prosent er tallet Rohan Bansal lander på etter å ha post-trent en fire milliarder parameters modell til å foreslå spørreplaner for Postgres. Målt som geometrisk snitt er forbedringen 1,81 ganger over 113 spørringer fra Join Order Benchmark, med 68 forbedringer og null regresjoner. Utgangspunktet var det motsatte av lovende: den utrente modellen produserte en gyldig kandidatplan i bare 15 av 113 forsøk, og ni av de 15 endte likevel på planen Postgres allerede hadde valgt.

Grunnen til at oppgaven i det hele tatt er åpen, er at join-rekkefølge er NP-hardt. Leis og kolleger stilte spørsmålet om hvor gode spørreoptimalisatorer egentlig er i 2015, og stilte det igjen ti år senere med omtrent samme svar. Postgres teller ikke kardinaliteter under planlegging, den estimerer dem, og estimatene sprekker når flere selektive predikater kombineres. Samtidig er utfallet trivielt å verifisere: en plan er god hvis den kjører fort, og det gir én enkelt akse å forsterke mot.

Oppskriften er todelt. Først lærte Bansal modellen formatet gjennom overvåket finjustering på rundt et halvt tusen trajektorier generert av GPT-6 Astra, en LoRA på 42,5 megabyte med 21,2 millioner trenbare parametre. Deretter kom forsterkningslæring med en egen GRPO-variant, fordelt på to leide H100-kort og fire Postgres-containere som kjørte hjemme på skrivebordet. Etter 1 200 oppdateringer produserte modellen en gyldig kandidat på 101 av 113 spørringer.

Regningen er den delen av eksperimentet som flytter det fra akademia til noe et lite team kan kopiere: rundt 800 dollar i GPU-leie over 95 timer og 400 dollar i API-kostnader, 1 200 dollar til sammen.

«Det er lett å ta små modeller for gitt når det finnes koloss-modeller med over 5T parametre. Det bør vi ikke gjøre» — Rohan Bansal

For en norsk utvikler med en database som gjør vondt, er ikke poenget at du skal trene din egen planlegger i morgen. Poenget er at oppgaver med en billig, objektiv scorefunksjon nå kan flyttes fra en frontier-modell til en 4B-modell du kan kjøre selv, for en sum som ligner en månedsregning på en skyinstans.