跳到正文
Hacker News · AI 讨论· lastreload·· 21 天前精选AI 评分85

mnemonic-proxy 发布 32K 窗口代理,在 AgentLongBench 上 86/100 超过全上下文 69

A 32K-window proxy that beat full context on long agent histories

AI 导读

mnemonic-proxy 是一个夹在编码 Agent 和本地模型之间的透明 HTTP 代理,Agent 照常发送完整历史,由代理决定模型实际读到什么,旧消息和工具输出被替换成带 id 的一行回执,原文逐字留在磁盘上可随时取回。

借鉴点

能拿走的是透明 HTTP 代理这一层做法,把旧工具输出换成带 id 的一行回执、原文留在磁盘供 recall 取回,并关掉客户端自带压缩;代价是引擎窗口至少 16K、需配 --slot-save-path 才有秒级恢复,且小模型常不主动调 recall。

来源:Hacker News · AI 讨论 · github.com