AI 모델 및 플랫폼
Anthropic, 장기 실행 에이전트를 위한 메시지 스레드 베타 출시
Unite.AI를 Google의 선호 소스에 추가
Anthropic은 2026년 11월 2일 메시지 스레드를 공개 베타로 선보여, Claude Platform의 Messages API 애플리케이션이 처음에 전체 대화를 전송한 뒤에는 새 메시지만 보낼 수 있도록 했다.
이 기능은 지연 시간이 중요한 활성 세션을 위해 마련됐다. 여기에는 장시간 실행되는 코딩 에이전트, 스크린샷이 스레드에 남아 있는 컴퓨터 사용 에이전트, 문서와 이미지가 많은 워크플로가 포함된다. Anthropic에 따르면 대부분의 Claude Code 사용자가 메시지 스레드를 기본적으로 사용하도록 설정한 상태에서 50만~100만 토큰이 포함된 요청의 첫 토큰 출력까지 걸리는 중앙값이 약 35% 감소한다.
요청 수명 주기와 복구
스레드가 없으면 매 턴 전체 대화를 다시 업로드하고 API가 그 내용 전체를 다시 검증하고 토큰화한다. 스레드를 사용하면 API가 모델에 전달할 대화를 재구성하기 전에 대부분의 작업을 새 턴에 대해서만 수행한다. Claude는 매 턴 전체 대화를 계속 읽으므로 토큰 사용량은 달라지지 않는다. 표준 토큰 요율과 기존 사용량 제한이 적용된다.
공식 문서에서는 수명 주기를 생성 요청과 이어가기 요청으로 나눈다. 생성 요청에는 전체 대화와 시스템 프롬프트, 도구가 포함되며 thread 매개변수를 사용한다. API는 대화와 Claude의 답변을 응답 ID에 연결해 저장한다. 이어가기 요청에는 이전 응답 이후의 메시지만 해당 응답 ID와 함께 전송하고, system 와 tools를 제외한다. 이후 각 새 응답 ID를 다음 턴에 사용한다.
스레드는 최선형 방식으로 제공되며 마지막 요청 후 5분이 지나면 만료된다. API가 저장하는 응답이 있을 때마다 이 시간이 다시 시작된다. 애플리케이션은 계속해서 데이터의 기준이 되는 원본이며, 모든 메시지의 사본을 자체적으로 보관해야 한다. API가 더 이상 스레드를 이어갈 수 없으면 클라이언트는 새 생성 요청을 보내 전체 대화를 다시 전송한다. SDK 스레드 도우미는 스레드를 생성하고 이어가며, 필요한 베타 헤더를 추가하고, 대화를 메모리에 보관한다. 또한 지정된 이어가기 오류가 발생하면 전체 대화를 한 번 자동으로 다시 전송한다.
보존 및 캐싱
스레드 내용은 서버가 관리하는 암호화 방식으로 메모리에 보관되며, 영구 저장소에는 기록되지 않고 마지막 사용 후 최대 1시간 이내에 삭제된다. 스레드에는 모델에 전송된 대화, 생성 요청의 시스템 프롬프트와 도구, 이후 요청을 확인하는 데 사용하는 고정 필드의 지문이 포함된다. 파일은 참조 방식으로 보관되므로 애플리케이션은 스레드가 활성 상태인 동안 대화에 사용된 모든 파일을 계속 이용할 수 있게 해야 한다. 메시지 스레드는 데이터 무보존 또는 HIPAA 용도로 사용할 수 없다. 다만 이 기능은 다른 데이터 무보존 기능을 이용할 수 있는 자격에는 영향을 미치지 않는다.
스레드는 프롬프트를 자동으로 캐시하지 않는다. 개발자는 캐시 중단점을 지정하거나 최상위 cache_control. 스레드 요청에는 캐시 제어 중단점을 최대 4개까지 포함할 수 있다. 스레드는 추가 전용이며, 각 응답 ID로 이어가기는 한 번만 할 수 있다. 다음과 같은 생성 요청 전용 필드를 변경하려면 system 또는 tools, 또는 고정 필드를 변경하려면 전체 대화가 포함된 새 스레드가 필요하다.
스트리밍, 제공 범위 및 기능 제한
스트리밍 응답의 경우 클라이언트는 응답 ID를 사용해 대화를 이어가기 전에 message_stop 이벤트를 기다려야 한다. 그보다 먼저 이어가기 요청을 보내면 404 오류가 발생할 수 있기 때문이다. SDK 도우미는 스트림이 끊긴 뒤 이어가기 요청을 자동으로 재시도하지 않는다. API는 대체 모델이 작성한 턴을 저장하지 않으므로 스레드 사용을 재개하려면 새 생성 요청에 전체 대화를 포함해 보내야 한다.
베타는 기본 Claude Platform, AWS의 Claude Platform, Microsoft Foundry의 Claude, Anthropic이 관리하는 Google Cloud의 Claude Models에서 사용할 수 있으며, 모든 모델에서 베타 기능을 지원한다. 스레드를 나열하거나 읽거나 삭제하는 API는 제공되지 않는다. 스레드는 Message Batches, 토큰 계산, 요청에 따른 압축 또는 대부분의 컨텍스트 편집을 지원하지 않으며, Inference hooks를 활성화한 조직에서는 사용할 수 없다.
스레드는 만료되고 API를 통해 가져올 수 없으므로, 베타를 사용하는 애플리케이션은 일반적인 턴에서 새 메시지만 전송하더라도 자체 대화 기록을 보존하고 전체 대화를 다시 전송할 수 있는 경로를 유지해야 한다.
