跳到正文
Hacker News · AI 讨论· zomtorg·· 11 天前精选AI 评分71

NVIDIA 预印本称智能体很少需要长上下文窗口

Nvidia Study: AI Agents Rarely Need Long Context Windows

AI 导读

NVIDIA 研究者的预印本《You don't need long context》在 13 个长程与长输入基准上测试上下文压缩,Claude Opus 4.5 与 GPT 5.6 Sol 的准确率变化分别为 −3.7 至 +5.6 和 −3.3 至 +4.4 个百分点。

借鉴点

可拿走压缩摘要的写法(任务原文、当前状态与计划、相关产物、完成标准)和把长文档存成文件让 agent 用 grep 选择性读取的做法,落到软件工厂与本地模型部署两条线;代价是开源模型在 16K 极限下会崩,Qwen 3 Coder Next 从 53.0% 掉到 3.6%,且成本节省部分来自作者自建价格模型而非真实账单。

来源:Hacker News · AI 讨论 · i10x.ai