В Messages API появилась публичная бета потоков сообщений с хранением диалога на сервере

В аккаунте ClaudeDevs компании Anthropic сообщили, что потоки сообщений теперь доступны в публичной бете Messages API. API хранит диалог на сервере между ходами, поэтому запрос содержит только новые сообщения и ID предыдущего сообщения вместо полной истории, и Claude начинает отвечать быстрее.

Anthropic сообщает, что уже внедрила потоки сообщений в Claude Code: для запросов объёмом от 500K до 1M токенов медианное время до первого токена снизилось примерно на 35%, а в длинных диалогах медианный размер запроса сократился примерно с 800 КБ до 1,8 КБ. Чтобы использовать эту функцию, добавьте в запросы параметр thread и заголовок бета-версии. По словам Anthropic, функция доступна на Claude Platform, Claude Platform on AWS, Claude in Microsoft Foundry и Claude on Google Cloud по стандартным тарифам за токены. Эти показатели предоставлены самой Anthropic.

В статье Anthropic приводятся подробности: первый запрос содержит весь диалог и запускает поток, а каждый последующий передаёт новые сообщения и ID предыдущего ответа. Потоки хранятся в памяти, зашифрованы и не записываются на диск; они истекают через 5 минут после последнего запроса, после чего клиент повторно отправляет весь диалог, чтобы начать новый поток. Claude по-прежнему считывает весь диалог на каждом ходу, поэтому расход токенов не меняется. По словам Anthropic, функция подходит для долго работающих кодинг-агентов, агентов для работы с компьютером (скриншоты остаются в потоке), а также процессов с большим количеством документов или изображений. Кроме того, потоки сообщений по умолчанию включены для большинства пользователей Claude Code.