掘金· 没事写点啥·· 23 天前AI 评分67
WeKnora v0.7.0 如何做多轮对话上下文管理
WeKnora 上下文管理
AI 导读
WeKnora v0.7.0 的智能推理与快速问答两条路径采用不同的上下文管理策略。智能推理把输入切成系统提示、历史中间段和当前用户轮三段,约半窗时用 LLM 摘要合并较早历史,约八成时按 assistant(tool_calls) 与 tool 结果成组从最旧开始裁掉,系统提示与当前轮始终保留;快速问答只保留最多 MaxRounds 对问答,超出直接丢弃,不做摘要。
来源:掘金 · juejin.cn