跳到正文
掘金· 雷一言说·· 19 天前AI 评分58

Spring AI 2.0 Tool Search 教程:工具多了只把相关定义发给模型

Spring AI 2.0 Tool Search:工具多了,只把相关的发给模型

AI 导读

Spring AI 2.0.1 的 Tool Search 让模型先检索工具索引,再把命中的工具定义放进请求,避免几十个工具定义全部进入上下文。作者用 Java 21、Spring Boot 4.0.8 和 Lucene 索引实测,12 个工具场景下首轮只带内置 toolSearchTool,定义字符数从 3783 降到 1055,第二轮才加入 queryOrder。

来源:掘金 · juejin.cn