跳到正文
掘金· 威哥爱编程·· 14 天前精选AI 评分80

Python 智能体开发实战 08:给 Agent 装上重试、超时和降级三条保险丝

Python 智能体开发实战 08:上线第一天就挂?给 Agent 装上重试、超时和降级三条保险丝

AI 导读

作者复盘自家教育 Agent 小E上线首晚卡顿事故,给出重试、超时、降级三条保险丝的完整 Python 实现。核心做法是把异常分成临时故障、确定性失败、结构错误三类,只重试可重试项,退避带 ±10% 抖动,并用客户端 Deadline 约束整轮预算,同时把 SDK 的 max_retries 从 2 改为 0 避免重试相乘。

借鉴点

能拿走异常三分法、指数退避加抖动、整轮 Deadline 切片和降级链的具体代码结构,落到本地模型部署与软件工厂的稳定性层;代价是要把 SDK 自带重试关掉并自己维护幂等键。

来源:掘金 · juejin.cn