Hinton skiller åpen kildekode fra åpne vekter og sier slaget er tapt

Åpen kildekode og åpne vekter er ikke det samme, og forskjellen ble kjernen i uenigheten da Geoffrey Hinton, Fei-Fei Li og Andrew Ng snakket på Ai4-konferansen i Las Vegas forrige uke, ifølge TechCrunch. Alle tre argumenterte for åpenhet. Ingen av dem la det samme i ordet.

Hinton trakk skillet skarpest.

«Åpen kildekode er flott. Du viser folk koden, og mange ser på kodelinjene og sier: å, der er det en feil. Åpne vekter betyr at du trener en stor modell og så gir folk vektene. Det er noe helt annet.» — Geoffrey Hinton, nobelprisvinner

Han var imot åpne vekter fordi de gjør det billig å ta en dyr grunnmodell og etterlære den til skadelige formål, som cyberangrep. Samtidig mente han at det toget har gått. Kostnaden ved å trene grunnmodeller var barrieren, og den barrieren er borte, sa han: slaget er tapt, og det er for sent.

Ng, medgrunnlegger av Coursera, la vekten et annet sted. Bekymringen hans var portvoktere, altså at noen få selskaper kontrollerer tilgangen slik Apple og Google gjør med mobile operativsystemer. Så koblet han det til geopolitikk: hvis kinesiske åpne modeller får bred utbredelse i Asia og Afrika, former de hvordan milliarder av mennesker møter ideer om demokrati, frihet og menneskerettigheter. Amerikansk åpen KI sliter med å konkurrere, mente han, på grunn av lobbyvirksomhet og skremselsretorikk hjemme.

Li, sjef og medgrunnlegger av World Labs, avviste hele oppstillingen som en falsk debatt. Hun brukte kjernefysikk som eksempel: artikler publiseres åpent, uran er regulert, og laboratoriearbeid ligger et sted imellom. Ulike lag i økosystemet kan ha ulik grad av åpenhet, og samarbeid som Det humane genomprosjektet viser at åpen kunnskap kan bli en plattform både selskaper og forskere tjener på. Lukkede systemer har også sin plass, mente hun.

Enige var de om at en viss regulering trengs. Hinton formulerte det som at retningen ikke kan overlates til folk som Elon Musk og Mark Zuckerberg.

For deg som bygger på åpne vekter, er poenget at diskusjonen ikke lenger handler om hvorvidt de finnes, men om hvilke lag i stabelen som skal reguleres.