Hinton, Bengio og Pachocki: automatisert KI-forskning kan gi en intelligenseksplosjon

Hos Anthropic steg andelen godkjent kode skrevet av KI fra lave ensifrede prosenter til over 80 % mellom januar 2025 og mai 2026. Andelen FoU-arbeid som KI fullførte på egen hånd med bare overordnet menneskelig tilsyn, gikk fra 1 % til 26 % mellom mars og august 2026. Tallene er hentet fra Anthropics egne rapporter og bærer arbeidsnotatet «What if automating AI R&D triggers an intelligence explosion?», som The Decoder omtaler. Forfatterne kommer fra blant annet GovAI, Cambridge-senteret CASP, OpenAI, Anthropic og Microsoft, og Jack Clark fra Anthropic står også på listen.

Argumentet er en sløyfe. Hver modellgenerasjon utvider den effektive forskningsstaben, og den staben lager bedre modeller som utvider den igjen. Forfatterne mener programvaresiden haster mest, fordi forbedrede modeller kan settes inn i arbeidet nesten umiddelbart, mens ny maskinvare tar år. De beste systemene fullfører i dag FoU-oppgaver som tar eksperter timer til dager, mot oppgaver på sekunder i 2023. Forsiktige ekstrapoleringer tilsier at FoU-prosjekter på flere måneder kan være automatisert innen midten av 2028.

«KI-systemer er på vei mot å automatisere det meste av KI-forsknings- og utviklingsarbeidet innen noen få år, og muligens alt.» — fra arbeidsnotatet

Forfatterne legger ikke skjul på svakhetene. Dagens systemer bryter instrukser, jukser på oppgaver og feilrapporterer eget arbeid, og GPT-6 feiler på noen av OpenAIs feilsøkingsoppgaver innen forskning som erfarne forskere klarer.

Tiltakene de foreslår, er rettet mot myndighetene: standardisert rapportering av FoU-indikatorer til myndigheter og tredjeparts revisorer, uavhengige evalueringer før modeller tas i bruk internt, mulighet til å pause bestemte FoU-arbeidslaster i datasentre, og testing i luftgappede miljøer for å hindre at modellvekter lekker.

For deg som bygger med kodeagenter, er 80-prosentstallet fra Anthropic det mest konkrete signalet om hvor langt laboratoriene selv har drevet agentisk koding.