Hugging Face ML Intern kjører ML-eksperimenter fra en chat, med budsjettak

Under 0,50 dollar og rundt seks timer. Det er tallene Hugging Face oppgir for ett av eksperimentene i demovideoen til ML Intern, en assistent selskapet har bygget inn i chatboten sin. Du beskriver ideen din i en samtale, og assistenten søker gjennom Hugging Face Hub, GitHub og nettet etter modeller, datasett og verktøy som passer.

Før noe settes i gang, estimerer ML Intern hvor mye compute som trengs og foreslår et budsjett. Godkjenner du det, holder den seg innenfor. Deretter jobber den videre på egen hånd: den kan lage datasett, trene modeller, følge med på kjørende jobber, laste resultatene opp til Hub-en, skrive rapporter og bygge demoer. Hver treningsjobb får sitt eget dashbord for å følge fremdriften.

Budsjettaket er delen som skiller dette fra en vanlig agent med skalltilgang. En agent som kan starte trening uten et tak, er en agent som kan brenne kortet ditt mens du sover. Hugging Face oppgir ikke hvor presist estimatet treffer.

Selskapet er samtidig midt i et oppkjøp fra Nvidia. Konsernsjef Jensen Huang har lovet at plattformen skal forbli åpen og maskinvarenøytral.

Hva bør du gjøre?

1. Test med et lite datasett først, og sammenlign budsjettestimatet med det faktiske forbruket.
2. Sjekk hvilke modeller og datasett assistenten velger for deg før du godkjenner. Søket dekker Hub, GitHub og åpent nett.