Ni matematikere skal vurdere OpenAI-modellen som løste 100 åpne problemer

«Selv om vi gir råd, har vi ingen beslutningsmyndighet i noe KI-selskap, og ansvaret for beslutningene et selskap tar, ligger hos det selskapet», sier Institute for Advanced Study i sin egen pressemelding, gjengitt av TechCrunch. Instituttet i Princeton i New Jersey er vertskap for Advisory Group on Mathematics and Artificial Intelligence, som OpenAI kunngjorde mandag.

Bakgrunnen er at OpenAI brått publiserte en løsning på Navier-Stokes, ett av Millennium Prize-problemene, og at selskapet nå hevder at den samme interne modellen har løst over 100 andre åpne problemer på tvers av de fleste områder av matematikken. Tempoet har irritert fagmiljøet: tidligere i september signerte 25 Fields-medaljevinnere et åpent brev om at KI-laboratorier truer det intellektuelle arbeidet deres når de kappes om å knuse kjente problemer. Av de ni medlemmene i det nye rådet har bare én, Camillo De Lellis ved IAS, signert brevet.

«Denne gruppen skal fungere som en bro til det matematiske miljøet og offentligheten, og gi matematikere en stemme i hvordan vi går videre» — OpenAI, i kunngjøringen av rådet

På papiret har rådet reell uavhengighet. Medlemmene får ikke betalt av OpenAI, de kan gi råd ingen har bedt om, gå offentlig ut med synspunktene sine og selv bestemme hvem som er med. Det de ikke får, er bremsen: OpenAI skriver rett ut at gruppen ikke skal rådgi om tempoet i selskapets interne matematikkframgang. Rådet vurderer altså betydningen av resultater og koordinerer hvordan de offentliggjøres, etter at de foreligger.

For deg som bygger på disse modellene, ligger poenget i hvem som kontrollerer et resultat. Matematikk er et av få felt der et svar kan verifiseres formelt av utenforstående, og likevel er det selskapet selv som avgjør når og hvordan en løsning legges fram. Kommer en tilsvarende påstand ut av modellen i din egen stack, finnes det ingen gruppe på ni professorer til å vurdere den for deg.