Hopp til hovedinnhold

Søndag 8. november

Cloudflare Clairic henter ut typede verdier på 0,46 sekunder, der GLM-5.3 bruker 16

tirsdag 20. oktober · KI-generert · Kilde: Cloudflare Blog

Innholdet er KI-generert og kan inneholde feil. Sjekk originalkilden.

Send tekst og et felt-skjema til Cloudflares nye Clairic, og få typede verdier med konfidens tilbake i ett pass uten å betale for utdata-token.

Fakturabeløp, leveringsdato, dager siden levering: mange JSON-kall til store språkmodeller spør etter de samme feltene gang på gang. Det er utgangspunktet når Cloudflare 19. oktober slipper Clairic som forhåndsvisning på Workers AI (@cf/cloudflare/clairic). Modellen leser input i én forward pass og genererer ingen token, så du betaler bare for input.

Du sender en state (tekst pluss opptil 4 bilder) og et kart over navngitte felt med type: text, number, date, duration, list, estimate eller forecast. Tekstsvar kommer tilbake som spenn med tegnposisjon, og hvert skalarsvar har p_null og en konfidensscore. Estimater og prognoser gir median og et 80 prosent intervall.

«Outputs are a value of the type you asked for, or null when the model fails to find an answer in the input.» — Cloudflare, i lanseringsposten

I Cloudflares egen reklamasjonsflyt trekker Clairic ut fakta, beslutningsmodellen Clef velger refusjon eller reparasjon, og GLM-5.3 skriver svaret. Kjeden brukte 19,3 sekunder mot 61,7 når GLM-5.3 gjorde alle tre trinnene, og kostet 6 032 dollar mot 11 740 per million reklamasjoner. Clef så bare en kort oppsummering av typede verdier, ikke den rå e-posten, og Cloudflare påpeker at fritekst-e-post er utsatt for prompt injection.

Svakhetene er oppgitt av Cloudflare selv. Regning i ett eller to steg virker pålitelig, men lengre kjeder og aggregering over mange tabellrader gjør det ikke. Intervallene kan bli for smale på ukjente data, og prognosene ser ikke hendelser som ikke står i dataserien, som helligdager. Åpne vekter er lovet «snart», uten dato.

Hva bør du gjøre?

  1. Bytt ut ett eksisterende JSON-uttrekk i agenten din med Clairic og sammenlign verdiene mot det LLM-en gir deg i dag.
  2. Sett en terskel på konfidens og p_null, og send alt under den til manuell sjekk eller et LLM-kall.
  3. La Clairic hente ut tallene og gjør regnestykker med flere ledd i egen kode.

Pulsen · norske KI-nyheter for deg som bygger. Sakene er KI-generert fra originalkilden, som alltid lenkes.