跳到正文
Hacker News · AI 讨论· ruxudev·· 23 天前精选AI 评分74

从零构建基础 AI Agent 第二期:会话压缩与生命周期管理

Build a Basic AI Agent from Scratch: Session Management II

AI 导读

作者在从零构建 AI Agent 系列第二篇中为会话加上上下文压缩,在每次模型请求前估算 token,超过 --max-context-tokens 的 80%(默认 24000 预算下约 19200)时自动触发,也可用 \compact 手动触发。

借鉴点

能拿走一套上下文压缩的落地做法,按最近一条 user 消息切分、只摘要更早轮次、摘要以不可信数据块回填,并保留磁盘完整记录;代价是每次压缩多一次模型调用并计入会话开销。

来源:Hacker News · AI 讨论 · ruxu.dev