Cloudflare slipper Clef: åpne beslutningsmodeller på 27B og 9B under Apache 2.0

38,8 millisekunder er median svartid Cloudflare oppgir for Clef-flash, den minste av to beslutningsmodeller selskapet slapp 1. oktober. Storebror Clef bruker 209,3 ms, mens TypeSafe AIs Jev, modellen som har skapt mest blest rundt slike modeller de siste ukene, ligger på 524,1 ms i Cloudflares egne målinger. Begge Clef-modellene ligger på Hugging Face med åpne vekter under Apache 2.0, og de kjører i tillegg på Workers AI.

En beslutningsmodell genererer ikke tekst. Du sender inn en tilstand, for eksempel en supportmelding, og et skjema med typede spørsmål: haster det, hvilket team skal ta saken, hvor alvorlig er den. Modellen returnerer en sannsynlighet for hvert tillatt alternativ på hvert spørsmål i én forward pass, så koden din kan rute, eskalere eller overlate til et menneske uten å parse fritekst. Cloudflare har testet Clef på sitt eget trusselteam til å klassifisere domener. Med nettleserhenting tok det 2,2 sekunder, mot 4,7 sekunder for gpt-oss-120b, som dessuten bare ga to kategorier.

Teknisk bygger Clef på Qwen3.8-27B og Clef-flash på Qwen3.5-9B. Grunnmodellen er frosset, og Cloudflare har trent et rutingshode sammen med LoRA-adaptere av rang 256, med Brier-tap for å kalibrere sannsynlighetene. Modellene har 64k kontekst, mot Jevs 32k, og en visjonsenkoder som tar bilder.

«Beslutningssteget er ikke-autoregressivt, så det finnes ingen mellomtekst å generere token for token.» — Cloudflare, i lanseringsposten for Clef

Benchmarkene er Cloudflares egne, og de spriker. Clef slår Jev klart på BANKING77 med 94,20 mot 79,74 og på CLINC150 med 97,43 mot 89,27, men Jev vinner på When2Call med 80,97 mot 72,37. På TypeSafes egen samling med arbeidsflyt-tester slår Clef Jev på tre av fire.

Brukerne på Hacker News målte noe annet. En kommentator testet modellene selv mot API-ene og fikk dette for Clef-flash: «661 ms i median, 806 ms i snitt». Det er 17 ganger tregere enn Cloudflares tall og nesten tre ganger tregere enn Jev i samme test. En annen regnet ut at prisen for store Clef, 0,24 dollar per million input-tokens, er rundt seks ganger Jevs.

Bakgrunn

Clef er den tyngste aktøren så langt blant modellene som kopierer Jevs API, og Cloudflares tabell sammenligner med flere av dem, blant annet Kev 9B og Laya. Cloudflare tilbyr også finjustering av Clef med forsterkende læring, først gjennom et eget ingeniørteam og senere som selvbetjent plattform.

Hva bør du gjøre?

1. Kjør Clef-flash lokalt via transformers og Python-filen joint_schema_model.py fra repoet hvis dataene ikke kan forlate maskinen. Modellkortet for store Clef er testet på ett H200-kort, og bare vektene til 9B-modellen tar i underkant av 20 GB i bf16.
2. Mål svartiden fra din egen region før du legger Clef i agentens hot path. Cloudflares tall og brukermålingene spriker for mye til at du kan stole på noen av dem.
3. Bytt API-adresse og test hvis du allerede bruker Jev. Clef er API-kompatibel, så skjemaene dine fungerer uendret.