Nace.AI legger ut vektene til Drex 1.5, en 9B-modell som scorer valg i stedet for å skrive tekst
lørdag 10. oktober · KI-generert · Kilde: Hugging Face
Test Drex 1.5 lokalt hvis agenten din tar mange små valg: Nace.AIs åpne 9B-modell matcher lukkede Jev på Decision Index og returnerer sannsynligheter i stedet for tekst.
TypeSafe AI holder Jev lukket og oppgir ikke engang hvor mange parametre modellen har. Nace.AI har gjort det motsatte med Drex 1.5: vektene ligger på Hugging Face, og modellen på 8,95 milliarder parametre scorer 58,08 på den offentlige delen av Decision Index 0.3.1, mot 57,96 for Jev 1.13.0, ifølge modellkortet. Forskjellen ligger innenfor tavlens uavgjort-bånd på 0,9 poeng, så les det som jevnt, ikke som en seier.
Drex er en beslutningsmodell, ikke en chatmodell. Du sender en tilstand (tekst eller JSON) og typede spørsmål: valg mellom navngitte alternativer, ja/nei eller en ordnet skala. Modellen kjører ett forward pass per spørsmål og gir en sannsynlighet for hvert alternativ. Ingen tokens samples, så temperature og top_p har ingen effekt. Kategorien fikk fart da TypeSafe AI lanserte Jev 15. september, og selskapet har ifølge TechCrunch nå hentet 870 millioner dollar til en verdsettelse på 7,5 milliarder.
«Vi har vært supergode på menneskelig språk i fire år, men det er ikke nyttig for automatisering fordi datamaskiner snakker et annet språk» — Diogo Almeida, medgrunnlegger av TypeSafe AI, til TechCrunch
For deg som bygger agenter er bruksområdet valgene mellom stegene: hvilket verktøy agenten skal kalle, hvilket dokument den skal lese, og om den har nok bevis. Drex bruker samme System One-format (POST /v1/systemone) som Jev og Kev, så klienter skrevet for dem skal virke uendret mot en selvhostet server. Nace.AI har også en Claude Code-plugin, men den går mot det hostede API-et med DREX_API_KEY med mindre du peker den mot din egen server. Nace.AI er selv tydelig på hva modellen ikke lover:
«Fordi Drex ikke kan generere tekst, kan den ikke finne på et alternativ utenfor settet ditt. Det gjør ikke det valgte alternativet riktig» — Nace.AI, produktsiden for Drex
Benchmarktallene fortjener litt skepsis. Nace.AI skriver at modellen er trent på de offisielle treningssplittene til benchmarkene i indeksen og målt på de tilbakeholdte delene, og Drex-tallene kommer fra selskapets egen kjøring av kittet. Drex leder på henting (61,7 mot 55,4), men henger etter på kunnskap og resonnering (44,6 mot 53,9). Lisensen er Nace.AI Open RAIL-M med bruksbegrensninger, mens Kev-koden som laster modellen er Apache-2.0.
Maskinvarekravet er overkommelig. bf16-vektene er rundt 18 GB og Python-serveren krever en CUDA-GPU, mens Q8_0-GGUF-en på rundt 9,5 GB kjører på Metal og CPU. Det krever Nace.AIs egne forker av llama.cpp og Ollama på grenen drex-v1.5, ikke vanlig Ollama. Konteksten er 16 384 tokens som standard og opptil 131 072, med median latens på 0,65 sekunder for dokumenter på 8 000 til 32 000 tokens.
Hva bør du gjøre?
- Bygg llama.cpp-forken på grenen drex-v1.5, konverter til Q8_0 og test modellen på agentens egne ruting-beslutninger før du stoler på indekstallene.
- La serveren lytte på 127.0.0.1, siden endepunktet ikke krever noen Authorization-header, og legg autentisering foran før du åpner den på nettverket.
- Bruk sannsynlighetene som terskel: la agenten handle når ett alternativ leder klart, og send jevne tilfeller til et menneske.