掘金· 米小虾·· 12 天前精选AI 评分88
Agent 省钱工程:七成成本来自结构而非模型,六个杠杆按 ROI 排序
Agent 省钱工程:七成的钱不是模型花掉的
AI 导读
一篇系统梳理 Agent 成本结构的实践长文指出,Agent 账单里真正由模型思考产生的部分通常不到三成,其余来自每轮重发的系统提示与工具定义、缓存未命中的折价和返工轮次。
借鉴点
能拿走清账参数配置、缓存断点与工具面收窄的具体做法,落到本地模型部署和软件工厂的成本控制上,代价是清账会打断前缀缓存、各杠杆互相抵消,需先埋点再动手。
来源:掘金 · juejin.cn