跳到正文
掘金· 用户85931306135·· 11 天前精选AI 评分71

OpenDrain:给 AI Agent 用的下载器,293KB 网页不再吃掉 7 万 token

我给 AI Agent 写了个下载器:293KB 的网页,不再吃掉 7 万 token

AI 导读

作者开源了 OpenDrain,一个把下载结果落盘、只向 Agent 返回约 557 字节 JSON 回执的下载器,避免整页 HTML 进入上下文。实测 MDN 的 HTTP Headers 页 293,636 字节约 73,000 tokens,改用 OpenDrain 后回执约 140 tokens,后续用 grep 按需取段约 997 tokens/段。

借鉴点

能拿走的是把下载从上下文里剥离的做法,字节落盘只回 557 字节 JSON 回执,配 flock 任务锁和强制 sha256 校验;可接到本地模型部署和知识沉淀的取数环节,代价是并发分片反而比 curl 单连接慢,Windows 无跨进程锁。

来源:掘金 · juejin.cn