AI Tracker下载 App
← 全部新闻
Google基础设施产品

Google 在 Gemini API 中预览推出 Tool Retrieval,按需加载工具架构

Google 表示,Tool Retrieval 现已在 Gemini Interactions API 中开放预览。它让智能体可以将大型工具库暂存起来,仅在任务需要时加载工具的参数架构。Google 称,这能减少输入 token 和延迟,并在工具数量增加时帮助保持工具选择的准确性。

要使用该功能,请在请求中添加 tool_search 工具,并对要暂缓加载的工具设置 defer_loading: true。模型仍能看到每个延迟加载工具的名称和描述;当模型需要某个工具时,会按名称发起请求,API 随后加载其架构,模型再调用该工具,整个过程都在一次请求中完成。相关步骤会显示在 interaction.steps 中,便于调试。对远程 MCP 服务器工具设置 defer_loading: true,会延迟加载该服务器提供的所有工具。自行管理注册表、嵌入索引或权限过滤器的开发者,可以通过设置 "execution": "client" 来声明 tool_search;每次搜索会多一次往返,但开发者可以在对话过程中向模型提供工具。

Google 表示,该功能不另行收费:token 按模型标准费率计费,tool_search 会增加一小段固定的输入 token,而每个已加载的架构在对话余下部分按输入计费。Google 称,延迟加载的架构不会出现在提示词开头,因此不会影响前缀缓存。该功能适用于 Gemini 3.6 及后续模型,包括所有 Gemini 4 模型。

这样的新闻,第一时间推送给你。

你用的 AI 工具一有变化,AI Tracker 就会提醒你。

下载 App