Claude Messages API에 서버에서 대화를 캐싱하는 메시지 스레드 공개 베타 추가

Anthropic의 ClaudeDevs 계정에 따르면 Messages API의 메시지 스레드가 공개 베타로 제공되기 시작했습니다. API가 턴 사이에 대화를 서버에 보관하므로, 요청에는 전체 대화 기록 대신 새 메시지와 이전 메시지 ID만 담으면 됩니다. 이에 따라 Claude가 더 빨리 응답을 시작합니다.

Anthropic은 이미 Claude Code에 메시지 스레드를 통합했다고 밝혔습니다. 500K~1M 토큰 요청에서 첫 토큰까지 걸리는 시간의 중앙값은 약 35% 줄었고, 긴 대화의 요청 크기 중앙값은 약 800 KB에서 1.8 KB로 감소했습니다. 사용하려면 요청에 thread 매개변수와 베타 헤더를 추가하면 됩니다. Anthropic에 따르면 이 기능은 Claude Platform, AWS의 Claude Platform, Microsoft Foundry의 Claude, Google Cloud의 Claude에서 표준 토큰 요금으로 이용할 수 있습니다. 이 수치는 Anthropic이 직접 공개한 것입니다.

Anthropic의 게시물에는 자세한 설명도 담겼습니다. 첫 요청은 전체 대화를 보내 스레드를 시작하고, 이후 요청은 새 메시지와 이전 응답의 ID를 보냅니다. 스레드는 메모리에 보관되고 암호화되며 디스크에는 기록되지 않습니다. 마지막 요청 후 5분이 지나면 만료되고, 이후 클라이언트가 새 스레드를 시작하기 위해 전체 대화를 다시 보냅니다. Claude는 매 턴마다 대화 전체를 읽으므로 토큰 사용량은 그대로입니다. Anthropic은 장시간 실행되는 코딩 에이전트, 컴퓨터 사용 에이전트(스크린샷이 스레드에 유지됨), 문서나 이미지가 많은 워크플로에 적합하며, 대부분의 Claude Code 사용자는 메시지 스레드가 기본적으로 활성화되어 있다고 밝혔습니다.