跳到正文
掘金· 用户660263800836·· 17 天前精选AI 评分74

作者用自写脚本拆解 agent 成本,改三处把每步从 0.026 元降到 0.0058 元

我给自己的 AI 员工算了笔账:改了三处,每步成本从 0.026 元降到 0.0058 元

AI 导读

作者给自己运行的 agent 系统写了个单文件零依赖脚本,把日志拆成单次上下文、缓存命中率、每步成本三个数,改完三处后每步成本从 0.026 元降到 0.0058 元。

借鉴点

能拿走三个成本指标(单次上下文、缓存命中率、每步成本)和挡工具输出、锁前缀两条纪律,落到本地模型部署和软件工厂的调用成本核算上,代价是要先有结构化日志。

来源:掘金 · juejin.cn