跳到正文
掘金· 威哥爱编程·· 16 天前精选AI 评分71

Python 智能体开发实战:用三种上下文裁剪策略把多轮对话 Token 省下 35.7%

Python 智能体开发实战 03:聊十轮就“失忆”,账单还翻倍?管好上下文,Token 立省一半

AI 导读

这篇教程拆解多轮对话越聊越贵和失忆的原因,给出带裁剪策略的会话管理器实现,12 轮演示中预算裁剪把累计 token 从 4654 降到 2993,省下 35.7%。

借鉴点

能拿走三套裁剪策略(滑窗、预算、压缩)加本地 token 估算和可配置单价的完整模块划分,落到软件工厂里多轮对话的成本控制;代价是估算按字符经验值算,真实账单仍要取服务端 usage。

来源:掘金 · juejin.cn