掘金· Bazingga·· 10 天前精选AI 评分80
一次 Agent 超时熔断踩坑复盘:从 300 秒总时长闹钟改成空闲看门狗
一次Agent超时熔断设计踩过的坑
AI 导读
作者复盘 Java 诊断探针的超时缺陷:同一份代码两轮评测从 11/14 通过掉到 0/9,8 次中断耗时挤在 303–313 秒,根因是 future.get(300s) 量的是总时长而非静默时长。
借鉴点
能拿走双尺子看门狗(idle 60s 滑动续期 + total 600s 封顶)、降上下文重试和失败轮记账的具体源码,替换掉单把总时长闹钟的流式调用;代价是 LangChain4j 流式接口返回 void 拿不到取消句柄,只能靠作废标志隔离,服务端计费止不住。
来源:掘金 · juejin.cn