Arena: các tác nhân hàng đầu đọc khoảng 93 token đầu vào cho mỗi token chúng tạo ra

Arena, đơn vị phát hành bảng xếp hạng, cho biết trong hơn 26.000 phiên, 10 tác nhân hàng đầu trên Agent Arena xử lý khoảng 93 token đầu vào cho mỗi token chúng tạo ra. Theo Arena, đây là lý do các phòng nghiên cứu đang chạy đua để giảm giá đầu vào được lưu vào bộ nhớ đệm. Arena cũng chia sẻ video minh họa cách bộ nhớ đệm hoạt động trong các phiên thực tế. Các số liệu này dựa trên phân tích riêng của Arena.