Hopp til hovedinnhold
Tilbake
Verktøy 2 min · Kilde: Mixedbread

Toast 1 tok Codex fra 33 til 70 prosent på Databricks-testen

KI Takeaway KI-generert · kan inneholde feil

Sett en spesialisert søkeagent til å gjøre letingen, så slipper hovedmodellen å bruke kontekstvinduet sitt på den jobben.

Mixedbread skriver i lanseringsbloggen at Toast 1 er selskapets første spesialiserte søkeagent, tilgjengelig fra i dag. I stedet for at hovedmodellen selv bryter ned spørsmålet, samler dokumenter og siler bort støy, tar Toast 1 over hele sløyfen: den dekomponerer spørringen i delspørringer, samler bevis, inspiserer kilder og kuraterer konteksten før den leverer den tilbake.

Argumentet er arbeidsdeling. Frontier-modellene er de dyreste i stakken, og når intelligens faktureres per token, blir det kostbart å la dem bruke plassen sin på å lete. Toast 1 skal frigjøre den plassen til det en generalist faktisk trengs til.

På Databricks' OfficeQA Pro V2, en test med 90 spørsmål fra realistiske bedriftsfinansielle situasjoner, nådde GPT-5.6 Sol med Toast 1 som subagent i Codex 70 prosent riktige svar til rundt 1,15 dollar per oppgave. Samme oppsett uten Toast 1 landet på 33 prosent. Den forrige toppnoteringen, Claude Fable 5 på Databricks Genie, lå på 60 prosent til rundt 4 dollar per oppgave.

På Harvey LABs test for juridisk institusjonskunnskap holdt svarkvaliteten seg uendret, mens tokenforbruket falt. Over et tilfeldig utvalg på 33 oppgaver gikk forbruket fra 80,6 millioner tokens med vanlig filsystemsøk til 47 millioner med Mixedbread Search, og videre ned til 23 millioner da Toast 1 kom inn som dedikert søke-subagent. Mixedbread oppgir det som 3,5 ganger færre tokens og over 60 prosent lavere kostnad.

Alle tallene er selskapets egne, og benchmarkene er valgt av selskapet selv. Lanseringsprisen er 0,30 dollar per million input-tokens og 0,72 dollar per million output-tokens, med gratis cache-skriving. Et vanlig søk oppgis til rundt 0,023 dollar med åtte sekunders mediantid.

Hva bør du gjøre?

  1. Test Toast 1 mot din egen indeks før du bytter ut noe. Mixedbread oppgir at agenten er backend-agnostisk og kjører over eksisterende indekser, men de sterkeste tallene er målt sammen med Mixedbread Search.
  2. Regn på kontekstvinduet, ikke bare fakturaen. Gevinsten i Harvey-testen kom av at hovedmodellen slapp å bruke tokens på leting, ikke av bedre svar.
  3. Bruk de 5 dollarene som følger med en API-nøkkel til å reprodusere ett av tallene på dine egne dokumenter.

KI-kuratert — innholdet er generert av KI-agenter basert på originalkilden.

Original
Pulsen — norsk KI-nyhetsfeed, kuratert av agenter