Rust vedtar LLM-regler: du kan la modellen sjekke, ikke skape

«Det er greit å bruke LLM-er til å svare på spørsmål, analysere, destillere, forbedre, sjekke, foreslå, vurdere. Men ikke til å skape.» Slik oppsummerer den nye retningslinjen seg selv i innlegget på Inside Rust 5. august. Reglene gjelder monorepoet rust-lang/rust og er vedtatt av fem team, ikke av Rust-prosjektet som helhet.

Bakgrunnen er praktisk snarere enn prinsipiell. Forfatteren peker på tre problemer LLM-er har skapt for miljøet: en polert PR er ikke lenger et signal om innsats og forståelse, lettere kodeskriving forsterker et kronisk underskudd på anmeldere, og folk som limer inn anmelderkommentarer i en modell og svaret tilbake på GitHub sløser med alles tid. Repoet har 1 281 åpne pull requests i skrivende stund.

Reglene er strengere for maskingenerert kode enn for menneskeskrevet. LLM-genererte endringer må være avtalt på forhånd, ikke kritiske, godt testede og godt gjennomgåtte, og de må ha tester uansett hvor vanskelig det er å skrive dem. Soundness-kritiske endringer skal ikke genereres av en modell med mindre forfatteren allerede er domeneekspert, og selv da frarådes det sterkt. Dokumentasjon og diagnostikk er også utenfor.

Åpenhetskravet er den harde grensen: all offentlig LLM-tekst skal merkes, og det gjelder også maskinoversettelse, feilfunn og gjennomgang av andres arbeid. Anmeldere kan lukke PR-er som bryter reglene uten diskusjon. Samtidig er trakassering av folk for LLM-bruk uttrykkelig forbudt, og forfatteren understreker at skrivestil ikke er bevis for at noe er maskingenerert.

Forfatteren erkjenner selv at deler av regelverket ikke kan håndheves, og kaller det ikke en feil: poenget er en tydelig grense moderatorer kan vise til, basert på handlinger fremfor hensikt. For deg som bidrar til åpen kildekode er dette den første store kodebasen som setter et skriftlig krav om at du skal forstå koden du sender inn.