ABot-World-0 skal holde 24 timer interaktiv inferens på ett forbruker-GPU

24 timer sammenhengende interaktiv inferens på ett forbruker-GPU er påstanden i en pressemelding fra Amap, Alibabas plattform for stedsbaserte tjenester, datert 3. august. De fleste interaktive verdensmodeller holder seg stabile i 30 sekunder til ett minutt før bildet begynner å drive. Amap oppgir at ABot-World-0 beholder bildekvalitet, fysisk konsistens og responstid gjennom hele døgnet.

Problemet modellen forsøker å løse er kjent for alle som har lekt med autoregressiv videogenerering. Hver nye bildesekvens genereres betinget på den forrige visuelle konteksten, så små feil legger seg oppå hverandre steg for steg til scenen kollapser. Det er derfor minutt-grensen har vært så vanskelig å flytte.

Amap tilskriver hoppet treningsmetoden LongForcing, som ble introdusert sammen med den første utgivelsen av modellen. I stedet for å be modellen huske tidligere bilder, brukes en lærermodell med lengre tidsvindu til å flytte treningsmålet: fra kvaliteten på et kort klipp til fordelingen modellen faktisk produserer etter mange autoregressive steg. Under trening mates modellens egne utdata tilbake som inndata, mens de holdes innenfor en stabil verdensfordeling. Metoden folder langhorisont-stabilitet og åpen scenegenerering inn i ett læringsmål i stedet for to.

Det praktiske poenget er hvor arbeidsbelastningen flyttes. Går langhorisont interaktiv videogenerering fra å være en datasenteroppgave til noe som kjører på forbrukermaskinvare, faller terskelen for uavhengige utviklere, spillstudioer og forskningsmiljøer. Modellen har vært åpen kildekode siden første utgivelse og ligger på Hugging Face, med kode på GitHub under amap-cvlab.

Merk at dette er selskapets egne tall, formidlet gjennom PR Newswire, og at pressemeldingen ikke oppgir hvilket GPU som er brukt eller hvilken oppløsning og bildefrekvens de 24 timene kjørte på. Ingen uavhengig part har reprodusert kjøringen. Amap viser til en demo av 24-timers-kjøringen og opplyser at forskningsartikkelen toppet både dags- og ukeslista på Hugging Faces paper-rangering kort tid etter utgivelsen. Vil du etterprøve påstanden, er det vektene og demoen som gjelder, ikke pressemeldingen.

Hva bør du gjøre?

1. Sjekk kravene før du planlegger noe: «forbruker-GPU» dekker alt fra 8 til 32 GB, og repoet under amap-cvlab er stedet som faktisk oppgir minnebehov og oppløsning.
2. Test for drift, ikke for lengde. Kjør din egen sekvens i noen timer og se etter om scenestrukturen holder, ikke bare om prosessen lever.