Messages API Claude’a dodaje w publicznej wersji beta wątki wiadomości, przechowując rozmowę na serwerze

Konto ClaudeDevs firmy Anthropic informuje, że wątki wiadomości są już dostępne w publicznej wersji beta w Messages API. API przechowuje rozmowę na serwerze między kolejnymi turami, więc żądanie zawiera tylko nowe wiadomości i identyfikator poprzedniej wiadomości zamiast pełnej historii, a Claude zaczyna odpowiadać szybciej.

Anthropic informuje, że zintegrowało już wątki wiadomości z Claude Code: w przypadku żądań o długości od 500K do 1M tokenów mediana czasu do pierwszego tokenu jest niższa o około 35%, a podczas długich rozmów mediana rozmiaru żądania spadła z około 800 KB do 1,8 KB. Aby skorzystać z tej funkcji, dodaj do żądań parametr thread i nagłówek beta. Anthropic informuje, że funkcja jest dostępna na Claude Platform, Claude Platform on AWS, Claude in Microsoft Foundry i Claude on Google Cloud, w standardowych stawkach za tokeny. Podane liczby pochodzą od Anthropic.

Artykuł Anthropic zawiera szczegóły: pierwsze żądanie przekazuje pełną rozmowę i rozpoczyna wątek, a każde kolejne wysyła nowe wiadomości oraz identyfikator poprzedniej odpowiedzi. Wątki są przechowywane w pamięci, szyfrowane i nie są zapisywane na dysku. Wygasają 5 minut po ostatnim żądaniu, po czym klient ponownie wysyła pełną rozmowę, aby rozpocząć nowy wątek. Claude nadal odczytuje całą rozmowę przy każdej turze, więc zużycie tokenów pozostaje bez zmian. Według Anthropic funkcja sprawdza się w przypadku długotrwałych agentów programistycznych, agentów obsługujących komputer (zrzuty ekranu pozostają w wątku) oraz procesów opartych na dużych ilościach dokumentów lub obrazów. Firma informuje też, że wątki wiadomości są domyślnie włączone dla większości użytkowników Claude Code.