Anthropic lancerer betaversion af meddelelsestråde til agenter med lange kørsler

Anthropic introducerede meddelelsestråde i en offentlig betaversion den 2. november 2026, så applikationer, der bruger Messages API på Claude Platform, efter den første anmodning med hele samtalen kun behøver at sende nye meddelelser.

Funktionen er beregnet til aktive sessioner, hvor svartiden er vigtig, herunder langvarige kodningsagenter, agenter, der bruger en computer, og hvor skærmbillederne forbliver i tråden, samt arbejdsgange med mange dokumenter og billeder. Anthropic oplyser, at når meddelelsestråde er aktiveret som standard for de fleste Claude Code-brugere, falder den mediane tid til første token med omkring 35 % for anmodninger med 500.000 til 1 million tokens.

Anmodningernes forløb og håndtering af afbrydelser

Uden en tråd uploades hele samtalen igen ved hver tur, og API’et validerer og tokeniserer det hele igen. Med en tråd gælder det meste af dette arbejde kun den nye tur, inden API’et genskaber samtalen til modellen. Claude læser stadig hele samtalen ved hver tur, så tokenforbruget er uændret. De almindelige tokenpriser og gældende grænser for anmodninger gælder.

Den officielle dokumentation opdeler forløbet i oprettelsesanmodninger og fortsættelsesanmodninger. En oprettelsesanmodning sender hele samtalen, systemprompten og værktøjerne med thread parameteren; API’et gemmer samtalen og Claudes svar under svar-id’et. En fortsættelsesanmodning sender kun meddelelser siden det forrige svar sammen med det pågældende svars id, mens system og tools. Hvert nyt svar-id bruges derefter til næste tur.

Tråde stilles til rådighed efter bedste evne og udløber fem minutter efter den seneste anmodning; hvert svar, som API’et gemmer, starter perioden på ny. Applikationerne er fortsat den autoritative kilde og skal opbevare deres egen kopi af hver meddelelse. Hvis API’et ikke længere kan fortsætte en tråd, sender klienten hele samtalen igen i en ny oprettelsesanmodning. SDK’ets trådhjælpefunktion opretter og fortsætter tråde, tilføjer det påkrævede betahoved, holder samtalen i hukommelsen og afspiller automatisk hele samtalen igen én gang ved bestemte fortsættelsesfejl.

Opbevaring og caching

Trådenes indhold opbevares i hukommelsen med serveradministreret kryptering, skrives aldrig til permanent lager og slettes senest én time efter seneste brug. En tråd indeholder den samtale, der er sendt til modellen, oprettelsesanmodningens systemprompt og værktøjer samt et fingeraftryk af faste felter, som bruges til at kontrollere senere anmodninger. Filer håndteres som referencer, så applikationerne skal sørge for, at alle filer, der bruges i samtalen, er tilgængelige, mens tråden er aktiv. Meddelelsestråde kan ikke bruges med nul dataopbevaring eller til brug i HIPAA-sammenhæng, men funktionen påvirker ikke muligheden for at bruge andre funktioner med nul dataopbevaring.

Tråde cacher ikke automatisk prompter; udviklere skal angive cachebrudpunkter eller topniveau cache_control. En anmodning med en tråd kan højst indeholde fire cachekontrolbrudpunkter. Tråde er desuden kun tilføjelse, og hvert svar-id kan kun fortsættes én gang. Hvis et felt, der kun angives ved oprettelsen, ændres, f.eks. system eller tools, eller hvis et fast felt ændres, kræves en ny tråd med hele samtalen.

Streaming, tilgængelighed og funktionsbegrænsninger

Ved streaming af svar skal klienter vente på message_stop hændelsen, før de fortsætter fra svar-id’et, da en tidligere fortsættelsesanmodning kan give en 404-fejl. SDK’ets hjælpefunktion gentager ikke automatisk en fortsættelsesanmodning, hvis streamingen afbrydes. API’et gemmer ikke ture, som er skrevet af reservemodeller, så hele samtalen skal sendes i en ny oprettelsesanmodning, før trådforløbet kan genoptages.

Betaversionen er tilgængelig på den oprindelige Claude Platform, Claude Platform på AWS, Claude i Microsoft Foundry og Claude-modeller på Google Cloud under Anthropic-administration, med betaunderstøttelse på alle modeller. Der findes ingen API til at vise, læse eller slette tråde. Tråde understøtter ikke Message Batches, optælling af tokens, komprimering efter behov eller de fleste former for redigering af konteksten, og de er ikke tilgængelige for organisationer, der har aktiveret Inference hooks.

Da tråde udløber og ikke kan hentes via en API, skal applikationer, der bruger betaversionen, stadig bevare deres egen samtalehistorik og have mulighed for at gensende hele samtalen, selv når de almindelige ture kun indeholder nye meddelelser.