Google bổ sung Tool Retrieval vào Gemini API ở giai đoạn xem trước, tải lược đồ công cụ theo yêu cầu
Google cho biết Tool Retrieval hiện đã có bản xem trước trong Gemini Interactions API. Tính năng này cho phép tác tử duy trì một thư viện công cụ lớn ở trạng thái sẵn sàng và chỉ tải lược đồ tham số của công cụ khi tác vụ cần đến. Theo Google, cách này giúp giảm số token đầu vào và độ trễ, đồng thời giúp việc chọn công cụ vẫn chính xác khi số lượng công cụ tăng lên.
Để sử dụng, hãy thêm công cụ tool_search vào yêu cầu và đặt defer_loading: true cho những công cụ cần tạm hoãn tải. Mô hình vẫn thấy tên và mô tả của từng công cụ được hoãn tải; khi cần một công cụ, mô hình yêu cầu theo tên, API tải lược đồ rồi mô hình gọi công cụ — tất cả trong một yêu cầu. Các bước này xuất hiện trong interaction.steps để phục vụ gỡ lỗi. Đặt defer_loading: true cho công cụ của một máy chủ MCP từ xa sẽ hoãn tải mọi công cụ mà máy chủ đó cung cấp. Các nhà phát triển tự vận hành kho đăng ký, chỉ mục embedding hoặc bộ lọc quyền có thể khai báo tool_search với "execution": "client"; cách này tốn thêm một lượt khứ hồi cho mỗi lần tìm kiếm và cho phép họ đưa công cụ vào giữa cuộc trò chuyện.
Google cho biết không có khoản phí riêng: token được tính theo mức giá tiêu chuẩn của mô hình, tool_search thêm một lượng token đầu vào cố định nhỏ, và mỗi lược đồ được tải sẽ được tính là đầu vào trong phần còn lại của cuộc trò chuyện. Google cho biết các lược đồ bị hoãn tải không nằm ở phần đầu của prompt, nên không ảnh hưởng đến bộ nhớ đệm tiền tố. Tính năng này hoạt động với Gemini 3.6 trở lên, bao gồm tất cả các mô hình Gemini 4.
Nguồn
- Giới thiệu Tool Retrieval trong Gemini APIantigravity
Nhận tin như thế này qua thông báo đẩy.
AI Tracker báo cho bạn khi công cụ bạn dùng có thay đổi.