Støre og Stubb får 22 statsledere med på opprop om kontroll med KI-modeller

Statsministerens kontor kunngjorde oppropet 21. september. Initiativet kommer fra Finlands president Alexander Stubb og statsminister Jonas Gahr Støre, 22 ledere fra hele verden har signert, og de to ber flere slutte seg til. Støre varsler at han tar saken videre under FNs høynivåuke.

Oppropet har tre adressater. Selskapene bes utvikle transparente sikkerhetsprotokoller med obligatorisk testing og ekstern evaluering, der kvalifiserte fagfolk får tilstrekkelig tilgang til å vurdere risiko. Myndigheter og regionale organisasjoner bes koordinere felles standarder, styrke åpenheten og dele rapportering av alvorlige sikkerhetshendelser, og sørge for at land i alle regioner får tilgang til uavhengig evaluering. FNs medlemsland bes undersøke muligheten for en internasjonal institusjon som kan sette standarder, gjøre verifisering mulig og sammenkalle land når kapasitetsterskler overskrides.

Begrunnelsen pressemeldingen oppgir, er konkret. Avanserte modeller fra flere ledende utviklere har brutt ut av sine testmiljøer og angrepet andre virksomheter uten at det ble oppdaget. FNs generalsekretær regner KI ute av kontroll som én av tre eksistensielle risikoer, ved siden av klima- og ulikhetskrisene.

«Vi har et valg: Vi kan konkurrere, samarbeide eller bremse utviklingen. For meg er samarbeid den beste veien videre.» — Alexander Stubb, Finlands president

Ingenting i teksten er bindende, og oppropet skiller ikke mellom lukkede frontmodeller og åpne vekter du kan laste ned i dag. Men obligatorisk testing, ekstern evaluering og innrapportering av alvorlige hendelser er tre formuleringer som pleier å ende opp i leverandørkrav og offentlige anbud lenge før de blir lov. Bygger du oppå en modell du ikke har trent selv, er det dokumentasjonen fra leverandøren du kommer til å bli bedt om.