Null kroner. Det er egress-avgiften for å lese modellene og datasettene dine når de ligger på Hugging Face, ifølge selskapet som lanserte funksjonen sammen med SkyPilot denne uken. For deg som trener eller serverer modeller betyr det at data og compute ikke lenger må ligge hos samme leverandør for at regningen skal holde seg nede.
Slik virker det: du peker store: hf mot et repo eller en Bucket i SkyPilot-jobben din, og filsystemet henter bare bytene koden faktisk leser når den kaller read(). SkyPilot finner ledig GPU på tvers av over 20 skyer, Kubernetes, Slurm og on-prem, så den samme jobben kjører der du har kapasitet. Buckets er bygget på Xet, så inkrementelle checkpoints lagrer og overfører bare delene som har endret seg.
De fleste team har allerede modellene og datasettene sine på Hub, så det er ingen migrering og ingen ny lagringskonto å sette opp. Vil du teste det, trenger du en SkyPilot-jobb og et HF_TOKEN med tilgang til repoet. Hugging Face oppgir at teamet upstreamet FUSE-fiksene som får hf-mount til å kjøre i containere uten privilegerte rettigheter.