Microsofts TauGrid samler Kueue, KubeRay og GPU-helsesjekk i én Helm-installasjon

Microsoft har lagt ut TauGrid under MIT-lisens i Azure-organisasjonen på GitHub. Plattformen kjører GPU-arbeidslaster på Kubernetes, fra dataklargjøring og distribuert trening til fine-tuning og inferens, og installeres med én Helm-kommando mot chart-versjon 0.4.2.

Under panseret ligger åpne komponenter. Kueue står for fair-share-planlegging, kvoter og prioritetsbasert opptak i køen, KubeRay håndterer Ray-clustere for distribuert trening og inferens, og en egen overvåker sjekker GPU-helsen per node og drainer noder automatisk ved maskinvarefeil. Ifølge README-en installerer plattformteamet hele stacken i stedet for å sette sammen hver del selv, mens forskerne bare bruker CLI-en.

En jobb beskrives i en tau.yaml med navn, image, kommando og antall GPU-er, for eksempel gpu: 4. Deretter sender du den med tau run --config tau.yaml og følger den med tau run status og tau run logs. Du trenger Kubernetes 1.30 eller nyere med GPU-noder, kubectl og Helm 3.0 eller nyere.

For et hjemmelab-cluster er Azure-bindingen det viktigste forbeholdet. TauGrid er testet ende-til-ende på AKS, og enkelte integrasjoner, som observability gjennom Azure Data Explorer, er fortsatt Azure-spesifikke.

«Prosjektet tar sikte på å støtte Kubernetes-miljøer i skyen og on-premises uten en Azure-avhengighet» — README-en til TauGrid

TauGrid sender ikke telemetri til Microsoft som standard.

Vil du teste uten GPU-er, bygger make kind-up kontrolleren og portalen og installerer chartet i et lokalt Kind-cluster med Podman eller Docker. GPU-overvåking og GPU-kvoter er da slått av, fordi Kind mangler en plugin for GPU-enheter.

Hva bør du gjøre?

1. Start med make kind-up på egen maskin og gi Podman- eller Docker-VM-en minst 8 GiB minne, som README-en anbefaler for hele stacken.
2. La de valgfrie observability-integrasjonene være avslått hvis ingen telemetri skal forlate clusteret.
3. Pin chart- og image-versjoner til en versjonert tag eller digest fra releasen i stedet for latest.