OpenAIs Decisions API gir typede ja/nei-svar omtrent ti ganger raskere enn Responses API

«You pay only for input tokens: there are no cache-read, cache-write, or output-token charges.» Slik beskriver OpenAI prisingen i dokumentasjonen for Decisions API, et nytt endepunkt i offentlig beta, skriver The Decoder. Med gpt-6-luna, foreløpig eneste støttede modell, koster input 0,10 dollar per million tokens, og OpenAI oppgir at svarene kommer omtrent ti ganger raskere enn via Responses API. Full lansering er ventet i løpet av noen uker.

Du sender en POST til /v1/decisions med tekst, bilder eller begge, pluss en liste med navngitte spørsmål. Spørsmålstypen predicate gir sannsynligheten fra 0 til 1 for at en påstand er sann, choice velger én av verdiene du har oppgitt, og score vekter ordnede nivåer: sannsynlighetene 0,1, 0,7 og 0,2 over tre nivåer gir skåren 1,1. Uavhengige spørsmål kan stilles i samme kall. Bilder må sendes inline som base64, siden vanlige URL-er og file_id ikke støttes. API-et støtter Zero Data Retention og HIPAA for kvalifiserte kunder, med databehandling i USA eller Europa.

The Decoder tolker lanseringen som OpenAIs svar på trenden med «decision models» som Jev startet i midten av september. Liquid AIs åpne d1-3B bruker nesten samme skjema, med noul, choice og score, og kjører lokalt. Samtidig har OpenAI kuttet de betalte bruksnivåene fra fem til tre: Build, Launch og Grow, med månedlige brukstak på 500, 5 000 og 200 000 dollar.

Hva bør du gjøre?

1. Oppgrader til minst Python-SDK 3.26.0 eller JavaScript-SDK 7.30.0, og sett terskler ut fra merkede eksempler fra din egen app, slik OpenAI anbefaler.
2. Legg til et «other»-alternativ i choice-spørsmålene, så havner det kategoriene ikke dekker i en egen gjennomgangskø.
3. Kjør samme spørsmål mot d1-3B lokalt hvis dataene dine ikke bør forlate maskinen, og sammenlign svarene.