Message threads i Claude API: bare nye meldinger per tur, og 35 prosent raskere første token i lange økter
tirsdag 3. november · KI-generert · Kilde: Anthropic
Bruk den nye thread-parameteren i Messages API for å sende bare nye meldinger per tur, noe Anthropic sier kutter median tid til første token med rundt 35 prosent ved 500 000 til 1 million tokens.
«Applikasjonen din forblir sannhetskilden for samtalen», skriver Anthropic i dokumentasjonen for message threads, som kom i offentlig beta på Claude Platform 2. november. Setningen er nøkkelen til hele funksjonen: API-et holder samtalen din i minnet en kort stund, men lover ingenting om at den fortsatt finnes neste gang du spør.
Selve mekanismen er liten. Første forespørsel sender hele samtalen med system, tools og "thread": {"type": "create"}. Deretter sender du bare de nye meldingene pluss previous_message_id fra forrige svar. system og tools skal ligge igjen hjemme, ellers får du 400. Alle kall i tråden krever beta-headeren message-threads-2026-08-12. Ifølge Anthropic er funksjonen allerede slått på som standard for de fleste brukere av Claude Code, og der faller median TTFT med rundt 35 prosent for forespørsler på 500k til 1M tokens.
Bakgrunn
En kodeagent kan gjøre hundrevis av kall i én økt, og uten tråd laster hver tur opp hele historikken på nytt, verktøyresultater og skjermbilder inkludert. API-et må validere og tokenisere alt sammen hver gang. Med en tråd dekker mesteparten av det arbeidet bare den nye turen. Gevinsten gjelder bare ventetid:
«Claude leser fortsatt hele samtalen på hver tur, så tokenforbruket er det samme.» — Anthropic, lanseringsartikkelen
Pris og rate limits er uendret, og en tråd cacher ingenting av seg selv. Vil du ha prompt caching, sender du en cache_control på toppnivå i hver forespørsel. Grensen er 4 cache-breakpoints per kall med tråd, og den på toppnivå teller som én.
Hva du må bygge rundt
Tråden er best-effort. Den utløper 5 minutter etter siste forespørsel og slettes senest én time etter siste bruk. Da returnerer neste continue-kall 404 med thread_not_found, og du må spille hele samtalen av på nytt i et nytt create-kall. Det samme skjer blant annet hvis en fallback-modell skrev forrige svar, eller hvis kallet kommer fra en annen bruker, tjenestekonto eller workspace enn den som opprettet tråden. Hver respons-ID kan bare fortsettes én gang, og tråden er append-only, så du kan ikke redigere eller forgrene tidligere meldinger uten å starte en ny.
SDK-ene har en egen hjelper, client.beta.messages.thread(...), som legger på headeren, holder samtalen i minnet og gjør replay én gang ved thread_not_found. SDK-ens beta tool runner bruker tråd som standard.
Les unntakene før du slår det på i produksjon. Message Batches, token counting og compaction on demand fungerer ikke med tråd, og det gjør heller ikke organisasjoner med HIPAA readiness eller Inference hooks. Funksjonen er ikke kvalifisert for zero data retention (ZDR), selv om innholdet holdes kryptert i minnet og aldri skrives til disk. Det finnes heller ikke noe API for å liste, lese eller slette en tråd. Message threads er tilgjengelig på Claude API, Claude Platform on AWS, Claude Models on Google Cloud og Claude in Microsoft Foundry.
Hva bør du gjøre?
- Mål TTFT på de lengste agentløkkene dine før og etter, siden gevinsten vokser med konteksten og er liten for korte samtaler.
- Bygg replay-stien først: behold din egen kopi av hver melding, og behandle 404 med
thread_not_foundsom normal drift. - Sjekk om organisasjonen din har ZDR-avtale eller HIPAA readiness før du skrur på tråder i et kundeprosjekt.