OpenAI lanserer Private Safety Processing for å beholde nulldatalagring

Flere nylige utrullinger av frontier-modeller har krevd at kunden lar leverandøren beholde sensitivt innhold for sikkerhetsovervåking. OpenAI går den andre veien og varsler en forhåndsvisning av Private Safety Processing, en mekanisme som skal se etter mønstre på tvers av relaterte forespørsler uten at OpenAI-ansatte får tilgang til innholdet. Poenget er å beholde Zero Data Retention, avtalen der OpenAI ikke lagrer verken prompter eller modellsvar etter at forespørselen er behandlet.

Begrunnelsen OpenAI gir er at de alvorligste risikoene sjelden er synlige i én enkelt forespørsel. De blir tydelige først når flere henvendelser ses i sammenheng: noen prøver seg gjentatte ganger mot samme sperre, koordinerer på tvers av kontoer, eller kler en trussel som rutinemessig research. En agentisk oppgave kan også skli ut underveis, for eksempel ved å fortsette å handle etter at den er bedt om å stoppe. Dagens ZDR-kompatible sikkerhetssystemer vurderer hver forespørsel for seg og ser ikke slike mønstre.

Teknisk skal innholdet enten bli liggende på infrastruktur kunden selv kontrollerer, eller, i en variant OpenAI fortsatt utvikler, lagres hos OpenAI kryptert med nøkler kunden eier. OpenAI oppgir at de ikke har kopi av nøklene. Når et automatisk system slår ut, får OpenAI et smalt signal om hva slags aktivitet det gjelder, ikke selve innholdet, og det signalet brukes til å avgjøre om det skal håndheves. Kunden må selv grave i egne systemer for å forstå et varsel.

«Enterprise AI adoption depends solely on customer control of data, with no direct or derivative use beyond the chosen service» — Sunil Agrawal, sikkerhetssjef i Glean

Funksjonen testes nå med et utvalg tidlige kunder. OpenAI planlegger å begynne utrullingen og publisere et teknisk white paper i september.

Hva bør du gjøre?

1. Sjekk om virksomheten din faktisk kvalifiserer til ZDR på API-et før du planlegger arkitekturen rundt det, siden ordningen gjelder kvalifiserte kunder og ikke alle kontotyper.
2. Vent på det tekniske dokumentet i september før du bytter ut en egen lagringsløsning med den kundekrypterte varianten, siden den fortsatt er under utvikling.