Grok Build CLI laster opp hele kodebasen til xAI, også filer agenten aldri åpnet

5,10 gibibyte forlot maskinen i løpet av én økt. Det er tallet en sikkerhetsforsker under aliaset cereblab dokumenterte i en wire-capture av xAIs offisielle koding-CLI Grok Build, publisert som en gist med SHA-256-summer og repro-kommandoer. Testreposen besto av 12 GB tilfeldige filer som agenten aldri leste. Modellkanalen (POST /v1/responses) flyttet 192 kilobyte. Lagringskanalen (POST /v1/storage) flyttet 5,10 GiB, fordelt på 82 opplastingskall som alle returnerte status 200.

Forholdet mellom kanalene er omtrent 27 800 til 1, og det er selve beviset: modellen kan umulig ha lest filene, men innholdet deres forlot maskinen likevel. I en oppfølgingstest plantet forfatteren en unik markør i src/_probe/never_read_canary.txt, ba Grok svare kun «OK» uten å åpne noen filer, og fanget CLI-en i å laste opp hele reposen som en git-bundle. En git clone av den fangede bundlen gjenskapte filen med markøren ordrett, sammen med full git-historikk. Samme resultat på et andre, urelatert repo.

En .env-fil med falske canary-hemmeligheter havnet uredigert i både modellkallet og arkivet som lastes til lagring.

Selve datasendingen er ikke oppsiktsvekkende i seg selv. Enhver sky-basert kodeagent må sende koden din til en server for å kunne gjøre noe med den. Det nye i denne teardownen er tre ting: hemmeligheter sendes uten redigering, innholdet persisteres i en navngitt GCS-bøtte i stedet for å behandles flyktig, og mekanismen er ikke beskrevet i CLI-ens egne installasjonsmaterialer.

«Opt-out-en styrer trening, ikke om koden din lastes opp og lagres.» — cereblab, forfatter av teardownen

Det siste punktet svir mest: å skru av «Improve the model» endret ingenting. Serveren returnerte fortsatt trace_upload_enabled: true, og hele reposen gikk samme vei uansett.

Forfatteren er tydelig på hva som ikke er bevist. Opplasting og lagring er ikke det samme som trening, og teardownen dokumenterer ingen påstand om at xAI trener på dataene. Funnene gjelder versjon 0.2.93 på macOS i juli 2026, målt på én maskin.

>_ NØKKELTALL

5,10 GiB lastet opp fra et repo agenten aldri leste

192 KB var alt modellkanalen flyttet i samme økt

82 opplastingskall, alle med status 200, null feilet

Hva bør du gjøre?

Ikke kjør Grok Build i et repo som inneholder ekte hemmeligheter, uansett hva «Improve the model» står på.
Roter nøkler som har ligget i et repo der du allerede har kjørt CLI-en.
Vil du etterprøve målingen: forfatteren oppgir mitmproxy-oppsettet og grep-kommandoene i gisten.