OpenAI ber Kongressen om lovpålagte KI-sikkerhetskrav

OpenAI skriver i et innlegg på egne nettsider at selskapet vil ha obligatorisk nasjonal KI-sikkerhetsregulering i USA, og at Kongressen bør vedta noe før sesjonen avsluttes. Samtidig går selskapet formelt inn for fire lovforslag som allerede har passert delstatsforsamlingen i California og ligger til behandling hos guvernør Newsom: SB 813 om en ordning for å utpeke uavhengige organisasjoner som kan vurdere KI-risiko, AB 1405 om registrering og uavhengighetskrav for KI-revisorer, SB 1119 om aldersverifisering, foreldrekontroll og uavhengige revisjoner for chatboter rettet mot barn og unge, og AB 1864 om screeningkrav for leverandører av gensyntese.

Noen av forslagene har OpenAI tidligere latt være å støtte. Selskapet skriver at det har snudd etter det som beskrives som et nylig sprang i modellenes kapasitet, og viser til sjefsforsker Jakub Pachocki, som har tatt til orde for «ekstrem varsomhet» rundt rekursiv selvforbedring.

Innholdet i det OpenAI ber om er avgrenset på en måte som betyr noe for alle andre enn de største laboratoriene. Selskapet skriver at kravene bør gjelde den håndfullen godt finansierte laboratoriene som utvikler de mest kapable systemene, ikke oppstartsselskaper, små utviklere eller forskere som opererer langt fra fronten, og at forpliktelsene bør stå i forhold til kapasitet og risiko.

OpenAI advarer også mot at regulering av frontmodeller blir en regulering av åpne vekter i forkledning. Åpne modeller konkurrerer først og fremst på kostnad, kontroll og latens, ikke på frontkapasitet, skriver selskapet, som viser til at det har signert oppropet Open Weights and American AI Leadership.

For deg som bygger på åpne vekter eller kjører modeller lokalt, er det denne avgrensningen som avgjør om et amerikansk regelverk treffer verktøykjeden din eller går utenom den.