Richard Sutton kaller syntetiske data en stor feil

Spørsmålet kom i et intervju Sequoia Capital publiserte 18. august 2026, der Richard Sutton og Khurram Javed presenterer selskapet Oak Lab. Sutton fikk spørsmål om syntetiske data kan bryte flaskehalsen når internett tar slutt, og svarte kort.

«Nei, det er bare en stor feil» — Richard Sutton, Oak Lab

Sutton fikk Turing-prisen for arbeidet sitt med forsterkningslæring, skrev fagets standardverk og veiledet blant andre David Silver, som senere jobbet med AlphaGo. I essayet «The Bitter Lesson» fra 2019 argumenterte han for at bare metoder som skalerer med regnekraft vinner over tid, mens de som bygger på innbakt menneskekunnskap taper. Språkmodeller er ifølge ham et halvt eksempel på begge deler: de skalerte enormt fordi de kunne drikke inn internett, og de traff veggen på nøyaktig samme sted, fordi internett er endelig mens verden ikke er det.

Begrunnelsen for å avvise syntetiske data er «Big World Hypothesis», som Javed formulerte og miljøet i Alberta har jobbet med i flere år. Den sier at verden er langt mer kompleks enn noen agent som skal handle i den, og at enhver simulering derfor blir mikroskopisk. Et lite program produserer en liten verden med feil friksjonsverdier eller en unøyaktig modell av hvordan en robotmotor faktisk oppfører seg.

«Det finnes ingen måte vi kan lage syntetiske data for andre menneskers tanker på» — Richard Sutton, Oak Lab

Den andre innvendingen er menneskelig. Noen må avgjøre hvilke syntetiske data som er gode og hvilke som er dårlige, og det krever domeneeksperter. Skal du trene en drone til å bevege seg som en flaggermus med ekkolokalisering, må du først ansette folk som kan ekkolokalisering. Da er tilnærmingen begrenset av tilgangen på menneskelig ekspertise, ikke av regnekraft. Selv for selvkjørende biler trent i simulering ender mennesker opp med å tette gapet mellom simulator og virkelighet.

Suttons alternativ er å ta mennesket ut av løkken og la agenten lære av sin egen erfaring. Agenten bygger sin egen verdensmodell og korrigerer den fortløpende, i stedet for å lene seg på en frossen simulator noen andre har laget. Han retter samtidig kritikk mot at dagens språkmodeller slutter å lære når treningen er over og vektene låses. Det han etterlyser er kontinuerlig læring uten katastrofal glemsel, et problem han mener er løsbart, blant annet med metoden Continual Backprop som gruppen hans publiserte i Nature.

Sutton kaller språkmodeller et fantastisk vitenskapelig gjennombrudd, men anslår at de utgjør rundt 20 prosent eller en fjerdedel av intelligens. For deg som bygger agenter er dette en uenighet om hva læring betyr. Sutton regner ikke en modell med låste vekter som lærende, uansett hvor godt den presterer på oppgaven du gir den.