Beijing Academy of Artificial Intelligence (BAAI) har sluppet Orca, en «world foundation model» som forutsier verdens neste tilstand i stedet for neste token. Ifølge den tekniske rapporten matcher den π0.5 på fem manipulasjonsoppgaver med en tohåndt humanoid robot, blant dem å sette bøker i hylla, stable boller og øse sukker. π0.5 er bygget spesifikt på robotdata. Orcas grunnmodell så aldri under fortreningen hvilken bevegelse som hører til hvilken tilstandsendring. Selve robotstyringen ble trent etterpå, på 200 ekte opptak per oppgave.
Orca lærer på to måter samtidig. «Ubevisst læring» bruker rå video uten tekst: modellen ser et bilde og forutsier det neste, ikke på pikselnivå, men i et abstrakt rom der den plukker opp bevegelsesmønstre og okklusjoner. «Bevisst læring» legger språk oppå: videoene deles i segmenter merket med en beskrivelse av tilstandsendringen, slik at modellen lærer hvordan en tilstand forskyver seg når en bestemt handling skjer.
Kjernen er en frossen Qwen3.5. For hver utdatatype henger forskerne på en egen liten modul som oversetter den interne tilstanden til ønsket form: tekst gjennom Qwen3.5s eksisterende språkhode, bilder gjennom en uendret Stable Diffusion 3.5 med små adaptere foran, og robothandlinger gjennom en kontrollmodul trent fra bunnen, kalt «Action Expert». Treningsgrunnlaget er 125 000 timer video, 160 millioner hendelsesbeskrivelser og 11,5 millioner spørsmål-svar-par, og bare en tidel av videodataene er brukt i denne versjonen.
På bildeprediksjon måler forskerne Orca mot spesialiserte bildegeneratorer, riktignok på PRICE-V0.1, en benchmark de har bygget selv:
Alle tallene kommer fra BAAIs egen tekniske rapport og er ikke uavhengig etterprøvd.
Orca finnes i to størrelser, på 0,8 og 4 milliarder parametere. Det er småvekt-klassen, altså det sjiktet du faktisk kan kjøre lokalt på eget utstyr, og BAAI innrømmer selv at modellene er for små til full verdensmodellering. Lyd, kraft og berøring mangler helt. Poenget for deg som bygger noe som skal bevege seg i den fysiske verden, er hvor flaskehalsen flytter seg: opptak av roboter med handlingsetiketter er dyre å samle inn, mens rå video finnes i overflod. Klarer en generalist å lære dynamikken fra video alene, holder det med et tynt lag ekte opptak på toppen for din egen oppgave. Her var det 200 per oppgave.