Thesys OUI-1 skriver hele UI-skjermer med diffusjon på ett sekund

Basismodellen klarer 24 av 184 oppgaver, altså 13,0 prosent. Finjusteringen klarer 132 av 184, altså 71,7 prosent. Det er hele forskjellen Thesys hevder å ha hentet ut av google/diffusiongemma-26B-A4B-it med LoRA-trening som er slått inn i basisvektene. Protokollen er 46 skjermbeskrivelser i fem størrelsesklasser, fire generasjoner hver, tenkning av, én felles systemprompt for alle modellene og scoring med benchmarkens egen validator. Rå-utdataene til OUI-1 er lagt inn i benchmark-repoet, så tallet kan scores på nytt.

Det interessante er ikke bare scoren, men hvordan modellen skriver. OUI-1 er en tekst-diffusjonsmodell: den produserer en blokk på 256 tokens om gangen, starter fra støy og låser hvert token i det øyeblikket den er sikker. Med vLLM 0.24, FP8 og 48 avstøyingssteg på ett A100 80GB-kort tar en lett skjerm rundt ett sekund, en tett skjerm tre til seks sekunder, prompt inkludert. Generative UI er uvanlig følsomt for ventetid, og det er hele poenget med formatet.

Modellen leser komponentbiblioteket ditt fra systemprompten. Du genererer den med npx @openuidev/cli generate --out system-prompt.txt, sender en brief i vanlig språk, og får tilbake et openui-lang-program med én komponent per linje koblet inn i en rot. Utdataene rendres med @openuidev/react-lang, eller Vue- og Svelte-rendererne, og valideres med @openuidev/lang-core.

To forbehold er verdt å ta med. Vektene ligger på 25,8 GiB i FP8, men Ampere-kort som A100 mangler native FP8, så vLLM går veien om Marlin med vekt-only FP8: minnebesparelsen er reell, regnehastigheten er det ikke. Og lisensen er Googles Gemma-vilkår, ikke en OSI-godkjent åpen lisens. OUI-1 er et Gemma-derivat, og bruksbegrensningene i basislisensen følger med.

Hva bør du gjøre?

1. Kjør vllm serve thesysdev/OUI-1 --trust-remote-code --max-model-len 16384 --quantization fp8 og pek den mot ditt eget komponentbibliotek før du vurderer scoren.
2. Regn med at temperature og seed ignoreres. Sampleren følger sitt eget skjema, så to identiske forespørsler kan gi ulikt formulerte skjermer.