Googles HEIR-kompilator kjører ferdigtrente modeller på kryptert data

Ende-til-ende-kryptering beskytter dataene dine, men tar med seg funksjonene i fallet: en tjeneste som ikke får se innholdet, kan heller ikke tilby spamfilter, virussjekk eller anbefalinger. Homomorfisk kryptering snur den avveiningen, fordi beregningen skjer direkte på krypterte data og serveren leverer tilbake et kryptert svar. Google la 14. august ut HEIR, en åpen kompilator som skal gjøre den teknikken brukbar uten kryptografikompetanse i huset.

HEIR står for Homomorphic Encryption Intermediate Representation og er bygget som en verktøykjede oppå MLIR. Oppgaven den løser er å ta en ferdigtrent modell som opererer på ukryptert data og kompilere den om til å operere på krypterte inndata. Google beskriver ambisjonen som en ettklikksløsning for ikke-eksperter.

«Å konvertere et eksisterende program manuelt til å bruke homomorfisk kryptering effektivt krever et team av kryptografer.» — Google, i innlegget om HEIR

Selskapet viser fram fire demoer kompilert med HEIR, alle med latenstall målt på én CPU-tråd: en anbefalingsmodell laget sammen med Belfort Labs, LG og New York University, en svindeldetektor for kredittkort med Niobium og hardshell.ai, anomalideteksjon i kryptert nettverkstrafikk basert på Kitsune-systemet, og en detektor for aktiveringsord som lar en lydstyrt agent kjenne igjen ordet uten å avsløre opptaket. Kildekoden til alle fire ligger på GitHub.

Prosjektet er ikke ferskt. Google varslet intensjonen i 2023, og heir-repoet på GitHub ble opprettet i april samme år. Siden er fire fagfellevurderte artikler bygget på HEIR, og maskinvarepartnere som Belfort, Niobium, Cornami og Optalysys arbeider med egne akseleratorer for homomorfisk kryptering.

For deg som bygger er det avveiningen som flytter seg. Google innrømmer at overheaden fortsatt er betydelig, men hevder at kostnaden faller raskt. Da blir kryptert inferens et spørsmål om budsjett og beregningstid, ikke om hva som lar seg gjøre.