Laya svarer på 33 ms med åpne vekter, men slår Jev bare etter finjustering

«Laya er en rask base å spesialisere, ikke en beslutningsmotor for zero-shot», skriver Convai Innovations selv i modellkortet på Hugging Face. Setningen står under begrensninger, og den veier tyngre enn overskriftstallene. Laya ble lagt ut 18. september under Apache 2.0 som et åpent alternativ til Jev, System 1-modellen TypeSafe AI lanserte i september. Modellen genererer ikke tekst, men svarer på typede spørsmål med sannsynligheter i ett fremoverpass.

Tre sjekkpunkter ligger i samme repo: laya på 421M parametere (ModernBERT-large, engelsk, 512 tokens kontekst), laya-multilingual på 322M (mmBERT-base, over 100 språk, 1024 tokens) og laya-typed-decisions på 421M. Spørsmålene er av tre typer: choice velger ett alternativ, score plasserer input på en ordinal skala, og noul gir en kalibrert sannsynlighet for at noe er sant. Treningen skjer med forsterkningslæring mot strengt riktige scoringsregler (RLCD), slik at ærlige sannsynligheter er eneste vei til høyest belønning.

På en Tesla T4 svarer den flerspråklige varianten på ett spørsmål på 32,8 ms og den engelske på 39,5 ms. Ti spørsmål i samme kall gir 7,2 ms per spørsmål. Jev er målt av tredjeparter til 236 til 276 ms, men Convai har aldri målt Jev selv fordi selskapet mangler API-tilgang, og utvalg og prompts er ulike.

Overskriftstallet 0,766 mot Jevs publiserte 0,727 på 2 000 typede beslutninger gjelder sjekkpunktet som er finjustert på benchmarkens eget treningssplitt. Grunnmodellen havner på 0,362, under majoritetsklassen på 0,461 og like over tilfeldig gjetting på 0,318. Modellen leveres også overkonfident: kalibreringsfeilen (ECE) faller fra 0,466 til 0,081 først når du tilpasser én temperatur per spørsmålstype og antall alternativer. Den engelske modellen fikk 0,000 riktige på khmer med 0,952 i snittlig konfidens.

«Tillitsscoren gir ingen advarsel når input er uleselig» — Convai Innovations, modellkortet for Laya

Derfor følger en Router som velger sjekkpunkt ut fra skrifttype før fremoverpasset. Tråden om Laya på Hacker News passerte 800 poeng lørdag, og én kommentator pekte på at 512 til 1024 tokens kontekst er smalt for lange dokumenter. Utvikleren bak prosjektet skriver på prosjektsiden at samme idé ble publisert i en arXiv-artikkel i mars 2025, lenge før Jev.

«I stedet for å bli bitter bestemte jeg meg for å ta alt jeg hadde lært, rette hver arkitektoniske begrensning i den gamle tilnærmingen og bygge en helt åpen familie av System 1-beslutningsmodeller: Laya» — utvikleren bak Laya, på prosjektsiden

Hva bør du gjøre?

1. Installer med pip install laya og test på en avgrenset jobb der du i dag kaller en LLM for å få én merkelapp, for eksempel ruting av supportsaker.
2. Finjuster på eget treningssett med Convais notatbok før du stoler på treffsikkerheten, og tilpass temperaturen på egne data før du setter terskler på sannsynlighetene.
3. Bruk laya-multilingual eller Router for norsk tekst, siden den engelske modellen bare er laget for engelsk.