ML Intern i HuggingChat laget seks modeller for 103 dollar, og alle promptene er delt

Qwen-Image 2.1 leveres med en promptomskriver på 9 milliarder parametere som trenger rundt 20 GB minne og tenker i tusenvis av tokens før den skriver et avsnitt. Yuvraj Sharma i Hugging Face ville ha en liten versjon, fant bare komprimerte kopier av den samme 9B-modellen på Hub, og ba i stedet ML Intern lage den. Dagen etter hadde han en 0,8B-modell som kjører på CPU, gir gyldig output 99,7 % av gangene og bruker omtrent en fjerdedel av lærermodellens tokens. Det skriver han på Hugging Face-bloggen 8. oktober.

Prosjektet kostet 16 dollar i compute, inkludert at 9B-modellen merket 8797 eksempelforespørsler. 0,8B-studenten finnes også som en GGUF-fil på 812 MB. Sharma laget fem modeller til på samme måte de neste dagene, og hver av dem startet som én melding i HuggingChat og endte som en offentlig modell med evaluering i modellkortet.

Det mest gjenbrukbare er briefene. De vokste fra noen hundre ord i den første til nærmere 2000 i den sjette, og ligger ordrett i GitHub-repoet yvrjsharma/ml-intern-prompts. Strukturen er sju deler: ideen på én linje, en seksjon med overskriften «Verified facts, do not re-derive» så agenten ikke bruker budsjettet på å finne ut det du allerede vet, baseline før trening, en røyktest med kontroll, presis evaluering, leveranser og et budsjett. Røyktesten for bilde-LoRA-ene var 50 treningssteg og en sjekk av at de lagrede vektene faktisk hadde endret seg før den dyre kjøringen.

«Uten den får du en trent modell og ingen anelse om den er bedre enn det du startet med.» — Yuvraj Sharma, Hugging Face, om baselinen

Agenten starter hver oppgave med null dollar i budsjett og må be om lov før den kjører betalte jobber, så taket i prompten («Cap total spend at USD 12 and ask me before exceeding it.») blir faktisk håndhevet. Uten tak foreslår den et par alternativer etter prosjektstørrelse. Det gikk heller ikke knirkefritt: Viewpoint Orbit krevde 48 jobber, medregnet de som feilet på manglende pakker eller feil stier og måtte sendes inn på nytt, og Huggy-stilen begynte å blø inn i urelaterte prompter fra steg 500. Kostnadene er GPU- og CPU-jobbene øktene rapporterte.

Hva bør du gjøre?

1. Les briefene i yvrjsharma/ml-intern-prompts i rekkefølge og bruk de sju delene som mal for din egen første prompt.
2. Sjekk fakta-seksjonen på nytt før du gjenbruker en brief, fordi faktaene var sanne i september 2026 og biblioteker og åpne issues kan ha endret seg siden.
3. Start med et datasett du allerede har, krev baseline på samme metrikk og sett et lavt tak som du hever først når du har lest resultatet.

Bakgrunn

ML Intern hadde tidligere sitt eget repo på GitHub, huggingface/ml-intern. Repoet er nå arkivert, og agenten lever videre som en egen ML Intern-modus i HuggingChat. Sharma skriver selv om briefene sine:

«Fakta i hver brief var sanne da den ble skrevet, i september 2026.» — README i ml-intern-prompts