Utvikler om KI-koding: tiden forsvant ikke, den flyttet seg til spesifikasjonen

«Jeg føler at jeg fortsatt implementerer, bare i ord i stedet for kode.» Det er sluttlinjen i et notat Srikanth C publiserte 14. august om hva som faktisk skjer når man jobber med språkmodeller over tid. Implementeringstiden er borte, skriver han, men timene har flyttet seg til å designe systemet på forhånd, endre antakelser underveis og pusse på utviklingsoppsettet.

Han deler instruksjonsarbeidet i tre. Enten forteller du modellen alt ned til detaljnivå, eller du beskriver oppgaven overordnet og forventer at den forstår, eller du går mellomveien og forklarer bare de delene du tror blir vanskelige for den. Mellomveien er den han selv faller ned på. Eksempler virker også, men bare når eksempelet ligger tett på det du vil ha. Alle tre koster tid, enten før eller etter at modellen har levert.

Det som avgjør hvor mye hjelp du må gi, er hvor vanlig mønsteret er. Innlogging og brukerhåndtering går lett, fordi modellen har sett mønsteret i treningsdataene. Et problem du selv har funnet på, må du holde i hånden hele veien.

Kontekstvinduet setter den harde grensen. Du kan ikke levere en tett spesifikasjon på 3000 ord over fire sider og forvente at alt følges, skriver Srikanth, og jo større kodebasen er, jo mindre av den får plass ved siden av spesifikasjonen.

«Etter hvert som du jobber med større problemer, oppstår et behov for komprimering» — Srikanth C

Svaret hans er ikke smartere prompting, men infrastruktur rundt modellen: tester og verktøy som gir tilbakemelding etter hvert som kodebasen vokser, og arbeid med å heve signal-til-støy-forholdet i selve koden. Selve komprimeringsproblemet tror han enten egne selskaper eller modellbyggerne løser.

Han legger til en observasjon som er lett å overse: de som er gode til å forklare, får bedre resultater ut av modellene enn de som ikke er det.

For deg som bygger er det siste poenget det praktiske. Gevinsten ligger ikke i å skrive smartere instruksjoner, men i å gjøre kodebasen og testoppsettet lettere for en modell å lese. Det er arbeid som lønner seg uansett om du bruker KI eller ikke.