Claude Messages API, konuşmayı sunucuda önbelleğe alan mesaj dizilerini genel beta sürümüne ekliyor

Anthropic'in ClaudeDevs hesabı, mesaj dizilerinin artık Messages API'de genel beta sürümünde olduğunu söylüyor. API, konuşmayı turlar arasında sunucuda tutuyor; böylece bir istek, tüm geçmiş yerine yalnızca yeni mesajları ve önceki mesajın kimliğini içeriyor ve Claude yanıt vermeye daha erken başlıyor.

Anthropic, mesaj dizilerini Claude Code'a zaten entegre ettiğini söylüyor: 500K–1M tokenlık isteklerde ilk tokena kadar geçen medyan süre yaklaşık %35 daha düşük; uzun konuşmalarda ise medyan istek boyutu yaklaşık 800 KB'tan 1,8 KB'a indi. Kullanmak için isteklere thread parametresini ve beta başlığını ekleyin. Anthropic, özelliğin Claude Platform, AWS üzerindeki Claude Platform, Microsoft Foundry'deki Claude ve Google Cloud'daki Claude'da standart token ücretleriyle kullanılabildiğini söylüyor. Rakamlar Anthropic'e ait.

Anthropic'in makalesinde ayrıntılar da yer alıyor: İlk istek konuşmanın tamamını içeriyor ve bir dizi başlatıyor; sonraki her istek ise yeni mesajları ve önceki yanıtın kimliğini gönderiyor. Diziler bellekte tutuluyor, şifreleniyor ve diske yazılmıyor; son istekten 5 dakika sonra süreleri doluyor. Bunun ardından istemci yeni bir dizi başlatmak için konuşmanın tamamını yeniden gönderiyor. Claude her turda konuşmanın tamamını okumaya devam ettiğinden token kullanımı değişmiyor. Anthropic, özelliğin uzun süre çalışan kodlama ajanlarına, bilgisayar kullanımı ajanlarına (ekran görüntüleri diziyle birlikte kalıyor) ve belge ya da görsel ağırlıklı iş akışlarına uygun olduğunu; ayrıca mesaj dizilerinin çoğu Claude Code kullanıcısı için varsayılan olarak açık olduğunu söylüyor.