跳到正文
掘金· 米小虾·· 12 天前精选AI 评分88

Agent 省钱工程:七成成本来自结构而非模型,六个杠杆按 ROI 排序

Agent 省钱工程:七成的钱不是模型花掉的

AI 导读

一篇系统梳理 Agent 成本结构的实践长文指出,Agent 账单里真正由模型思考产生的部分通常不到三成,其余来自每轮重发的系统提示与工具定义、缓存未命中的折价和返工轮次。

借鉴点

能拿走清账参数配置、缓存断点与工具面收窄的具体做法,落到本地模型部署和软件工厂的成本控制上,代价是清账会打断前缀缓存、各杠杆互相抵消,需先埋点再动手。

来源:掘金 · juejin.cn