Rampart fjerner navn og kontonumre i nettleseren med en modell på 14,7 MB

Rampart fra National Design Studio fanger 98,42 % av personopplysningene i et testsett på 30 000 rader, mens OpenAI Privacy Filter når 97,4 % med en modell på rundt 2,8 GB. Det amerikanske statlige designstudioet la ut Rampart som åpen kildekode i juni, med modellen på Hugging Face og et bibliotek på npm.

Filtreringen skjer i to lag uten noen server i løkka. Regler med sjekksum-validering tar amerikanske personnumre (SSN) og betalingskort. En finjustert MiniLM med rundt 18,5 millioner parametere, kvantisert til 4 bit og kjørt via transformers.js, tar navn, gateadresser, telefonnumre og andre ID-numre. Median kjøretid er 3,9 ms med WebGPU og 12,6 ms med WASM, ifølge modellkortet.

«Vårt grunnleggende designprinsipp er at den eneste personinformasjonen du kan være sikker på er privat, er informasjonen som aldri forlater enheten din.» — National Design Studio

Plassholderne er stabile gjennom samtalen. guard.protect() gjør «John Wick» om til [GIVEN_NAME_1], og guard.reveal() setter navnet tilbake i modellens svar lokalt, så den eksterne modellen aldri ser det. Modellen er lisensiert under CC BY 4.0.

Begrensningene er tydelige. Norsk er ikke blant de syv språkene (engelsk, spansk, fransk, tysk, italiensk, portugisisk og nederlandsk), og sjekksum-reglene er skrevet for amerikanske formater. Modellkortet oppgir 2 082 lekkasjer av 131 707 private termer, altså én av 64, og navn fra arabisk og russisk navnetradisjon fanges bare i 4,8 og 2,4 % av tilfellene. Rampart er alfa, og utviklerne kaller det skadereduksjon, ikke en sikkerhetsgrense mot en motivert angriper.

Hva bør du gjøre?

1. Installer @nationaldesignstudio/rampart fra npm og legg createGuard() foran kallet til modellen i chat-grensesnittet ditt.
2. Test med norske navn, adresser og fødselsnumre før du stoler på filteret, siden norsk ikke er et støttet språk.
3. Behold serverside-kontrollene og loggvasken, siden omtrent én av 64 private termer slipper gjennom.