Anthropic Meluncurkan Beta Utas Pesan untuk Agen yang Berjalan Lama

Pada 2 November 2026, Anthropic memperkenalkan utas pesan dalam beta publik, yang memungkinkan aplikasi Messages API di Claude Platform hanya mengirim pesan baru setelah permintaan awal yang memuat seluruh percakapan.

Fitur ini ditujukan untuk sesi aktif yang mementingkan latensi, termasuk agen pengodean yang berjalan lama, agen penggunaan komputer yang tangkapan layarnya tetap tersimpan dalam utas, serta alur kerja yang banyak menggunakan dokumen dan gambar. Anthropic melaporkan bahwa, dengan utas pesan diaktifkan secara default bagi sebagian besar pengguna Claude Code, permintaan yang memuat 500.000 hingga 1 juta token mengalami penurunan median waktu hingga token pertama sekitar 35%.

Siklus Permintaan dan Pemulihan

Tanpa utas, setiap giliran mengunggah ulang seluruh percakapan, lalu API memvalidasi dan melakukan tokenisasi ulang atas seluruh isinya. Dengan utas, sebagian besar proses tersebut hanya berlaku untuk giliran baru sebelum API menyusun ulang percakapan untuk model. Claude tetap membaca seluruh percakapan pada setiap giliran, sehingga penggunaan token tidak berubah. Tarif token standar dan batas laju yang berlaku tetap diterapkan.

Dokumentasi resmi membagi siklus ini menjadi permintaan pembuatan dan permintaan kelanjutan. Permintaan pembuatan mengirim seluruh percakapan, prompt sistem, dan alat beserta thread parameter tersebut; API menyimpan percakapan dan balasan Claude di bawah ID respons. Permintaan kelanjutan hanya mengirim pesan sejak respons sebelumnya, beserta ID respons tersebut, tanpa menyertakan system dan tools. Setiap ID respons baru kemudian digunakan untuk giliran berikutnya.

Utas tersedia dengan upaya terbaik dan kedaluwarsa lima menit setelah permintaan terakhirnya; setiap respons yang disimpan API memulai ulang hitungan waktu tersebut. Aplikasi tetap menjadi sumber kebenaran dan harus menyimpan salinan setiap pesan masing-masing. Jika API tidak dapat lagi melanjutkan utas, klien mengirim ulang seluruh percakapan dalam permintaan pembuatan baru. Helper utas SDK membuat dan melanjutkan utas, menambahkan header beta yang diwajibkan, menyimpan percakapan dalam memori, serta secara otomatis mengirim ulang seluruh percakapan satu kali untuk jenis kesalahan kelanjutan tertentu.

Retensi dan Caching

Isi utas disimpan dalam memori dengan enkripsi yang dikelola server, tidak pernah ditulis ke penyimpanan persisten, dan dihapus paling lambat satu jam setelah terakhir digunakan. Utas mencakup percakapan yang dikirim ke model, prompt sistem dan alat dari permintaan pembuatan, serta sidik jari dari bidang tetap yang digunakan untuk memeriksa permintaan berikutnya. File disimpan sebagai referensi, sehingga aplikasi harus memastikan setiap file yang digunakan dalam percakapan tetap tersedia selama utas aktif. Utas pesan tidak memenuhi syarat untuk retensi data nol atau penggunaan HIPAA, meskipun fitur ini tidak memengaruhi kelayakan untuk fitur retensi data nol lainnya.

Utas tidak menyimpan prompt ke cache secara otomatis; pengembang harus menyediakan titik pemisah cache atau parameter tingkat atas cache_control. Permintaan berutas dapat memuat paling banyak empat titik pemisah kontrol cache. Utas juga hanya dapat ditambahi, dan setiap ID respons hanya dapat dilanjutkan satu kali. Mengubah bidang yang hanya berlaku saat pembuatan, seperti system atau tools, atau bidang tetap memerlukan utas baru yang memuat seluruh percakapan.

Streaming, Ketersediaan, dan Batasan Fitur

Untuk respons streaming, klien harus menunggu message_stop peristiwa tersebut sebelum melanjutkan dari ID respons karena permintaan kelanjutan yang dikirim lebih awal dapat menghasilkan kesalahan 404. Helper SDK tidak otomatis mengulangi permintaan kelanjutan setelah streaming terputus. API tidak menyimpan giliran yang ditulis oleh model cadangan, sehingga seluruh percakapan harus dikirim dalam permintaan pembuatan baru sebelum penggunaan utas dapat dilanjutkan.

Beta ini tersedia di Claude Platform native, Claude Platform di AWS, Claude di Microsoft Foundry, dan Claude Models di Google Cloud yang dikelola Anthropic, dengan dukungan beta pada setiap model. Tidak ada API untuk mencantumkan, membaca, atau menghapus utas. Utas tidak mendukung Message Batches, penghitungan token, pemadatan sesuai permintaan, atau sebagian besar penyuntingan konteks, dan tidak tersedia bagi organisasi yang mengaktifkan hook Inference.

Karena utas kedaluwarsa dan tidak dapat diambil melalui API, aplikasi yang menggunakan beta ini tetap harus menyimpan riwayat percakapannya sendiri dan menyediakan mekanisme untuk mengirim ulang seluruh percakapan, meskipun dalam giliran rutin hanya pesan baru yang dikirim.