跳到正文
  1. 掘金78

    arXiv 综述盘点 9B–20B 开源模型量化部署实测:INT4 小 batch 提速约 2 倍,大 batch 增益归零

    三位独立研究者汇总截至 2026 年 10 月 5 日可核实的 9B–20B 开源模型在 vLLM/SGLang 上的量化公开实测,发现所有计时都符合内存带宽与计算的 roofline 规则:batch 1 时 INT4 提速 1.35–2.12 倍,batch 256 时 W4A16 仅 1.02 倍,FP8 仍有 1.68 倍。

    借鉴点

    能拿走的是 roofline 判断法加 7 条量化报告清单,用来定小 batch 选 W4A16、大 batch 选 FP8 的配方;代价是证据来自不同引擎版本,只能组内比较。

  2. Hacker News · AI 讨论80

    对照实验:Codex 编码智能体团队为何不如单 agent

    一项对照实验用 Codex CLI 0.157 和 gpt-5.6-luna 在 shopizer 上跑六个功能任务,planner-coder-reviewer 团队只通过 25.7% 的隐藏验收测试,单 agent 通过 56.8% 且花费更低。

    借鉴点

    能拿走的是对照实验设计本身,同一批任务下把单 agent 与 planner-coder-reviewer 团队按成本对齐比较,并给出把 TASK.md 放进仓库让每个 agent 自读的修法;代价是只测了一个模型、一个 Java 代码库和六个功能,结论外推有限。

  3. Microsoft Research58

    Microsoft Research 用 PDD Kit 形式化验证智能体编写的全栈 Web 应用

    Microsoft Research 联合 GitHub Next 发布研究原型 PDD Kit,把用户意图转成 Verus 形式规约,证明智能体写的代码对每个输入都满足规约,证明覆盖不到的部分退回测试。

    借鉴点

    能拿走的是把意图先写成 Verus 形式规约、再让 agent 写证明并用变异检查防弱规约的流程,可接到软件工厂的代码审查环节,代价是只支持 Rust 且证明本身仍要投入。

  4. Apple Machine Learning58

    Apple 提出摊销式 MIPS 方法,用小型神经网络加速 RAG 检索

    Apple 在 ICML 2026 论文中提出摊销式 MIPS 方法,针对固定键库离线训练小型神经网络,把查询路由到最佳匹配所在簇,从而加速 RAG 检索。

    借鉴点

    可借鉴用回归训练小网络替代质心路由的思路,SupportNet 做簇路由、KeyNet 改写查询接现有 IVF 索引,前提是查询分布稳定且需离线预计算真值样本。

  1. 掘金74

    人大、复旦、上交发布 ToolSpace,用 804 个真实工具环境训练 Agent,Qwen3.6-35B 均分从 23.0 升至 41.0

    人大、复旦、上交联合团队在 arXiv 发布 ToolSpace,先从 20 万条真实执行轨迹中用确定性规则挖出工具间的数据、状态、重试三类依赖,聚成 804 个环境簇,再在图上随机游走生成任务并回放验收。

    借鉴点

    可借鉴的是先挖真实轨迹里的工具依赖再按需造环境,无状态环境直接缓存回放,省掉一半合成文件;前提是手里有真实执行轨迹,且冷门编排进不了图。

  1. Hacker News · AI 讨论71

    NVIDIA 预印本称智能体很少需要长上下文窗口

    NVIDIA 研究者的预印本《You don't need long context》在 13 个长程与长输入基准上测试上下文压缩,Claude Opus 4.5 与 GPT 5.6 Sol 的准确率变化分别为 −3.7 至 +5.6 和 −3.3 至 +4.4 个百分点。

    借鉴点

    可拿走压缩摘要的写法(任务原文、当前状态与计划、相关产物、完成标准)和把长文档存成文件让 agent 用 grep 选择性读取的做法,落到软件工厂与本地模型部署两条线;代价是开源模型在 16K 极限下会崩,Qwen 3 Coder Next 从 53.0% 掉到 3.6%,且成本节省部分来自作者自建价格模型而非真实账单。

  2. Hugging Face Blog71

    IBM Research 用合成数据微调 20B 小模型 Palette 按自有设计语言做幻灯片

    IBM Research 在 Hugging Face 博客介绍 Palette,用 IBM Design Language 的合成数据对 20B 开源权重模型做 LoRA 微调,让它按自有设计语言生成幻灯片。

    借鉴点

    可拿走设计者写 JSON brief、编码者按单页并行出 pptxgenjs 代码的两段式拆分,配几何检查器只保留有改进的重写;代价是要自建合成数据与渲染检查闭环,且小模型在叙事型 deck 上仍落后。

  1. 掘金88

    Google Research 开源 Harness²:不改模型只改 Agent 外壳,GLM-5 在 WorkBuddy-Bench 涨 11.5 分

    Google Research 开源 Harness²,让 agent 递归改写自己的执行外壳(prompt、技能、脚本、子代理等 8 个组件)并沉淀改进库,不训练也不换模型。

    借鉴点

    可抄走的是 harness 八组件成本模型和 INV/DOM 双提案对比流程,能落到软件工厂的 agent 编排上;代价是每任务 4k 次 rollout,且只补流程缺陷、不提升内容判断。

  1. 掘金71

    RAGFlow 与华东师大论文提出知识编译,断言-证据对让查询 token 降 91%

    RAGFlow 团队(InfiniFlow)联合华东师范大学在 arXiv 发布论文《Context as Infrastructure》,提出在摄入期把语料加工成带类型工件的知识编译管线,查询时消费工件而非原始文本。

    借鉴点

    能拿走断言-证据对替换、零命中回退梯子和有限视野盈亏公式,落到知识沉淀与本地检索管线;代价是延迟约 3 倍、需另配决策门,且 91% 数字来自 N=200 单次运行。

  2. 掘金71

    Google 与港大提出 VeriCUA,让验证器主动取证判定计算机操作智能体是否真完成任务

    Google 和香港大学的论文 VeriCUA 把计算机操作智能体的任务完成判定从一次模型调用打分,改成先勘察环境再定验收标准、从 GUI 和代码两条通道取证、按证据可信度仲裁的验证流程。

    借鉴点

    可搬走证据分级(物证/证词)与先勘察再定标准两条规则,用于 agent 轨迹筛选和 RL 奖励判定;代价是验证要多花推理预算,且依赖对机器状态的只读特权访问。

  1. IT之家80

    DeepSeek 提出 Super-agent 双层架构设计,Router 与 Worker 分工并给出原型实现

    DeepSeek Harness 团队发布《Super-agent 设计探索》,提出 Router 层统一承接人类交互与任务分派、多个 Worker 在隔离会话中并发执行的双层架构,并给出事件驱动、Inline & Spill、链式召回、异步 ReAct Loop 和 Watchdog 等配套机制。

    借鉴点

    Router 与 Worker 双层拆分、Trigger 直通 Worker、Inline & Spill 加链式召回,可替换单会话串行派活;代价是 Router 扩展性、长程记忆和端侧提示词注入风险尚未解决。

  1. 掘金78

    GUI-JEPA 用隐空间打分替代解码,0.5B 参数一步 51 毫秒

    上海交大、南洋理工和阿里巴巴团队提出 GUI-JEPA,用 JEPA 隐空间对候选控件打分替代逐 token 解码,在 AndroidControl 上以 0.5B 参数保留 Qwen2.5-VL-7B 微调模型 86-92% 的步级精度。

    借鉴点

    可借鉴候选打分替代逐 token 解码的做法,把截图编码一次、对 a11y 树候选批量打分,落到端侧智能体和手机自动化线;前提是能拿到无障碍树,且只验证了步级准确率、没有在线任务完成率。

  1. 掘金71

    华南理工 G³RAG 用 cosθ·sinθ 几何边权替代实体知识图谱做多跳 RAG

    华南理工的 G³RAG 提出用文档嵌入夹角的 cosθ·sinθ 作为边权构图,同时奖励相关性和互补性,绕开用 LLM 抽实体建知识图谱的 token 开销,构图成本为零。

    借鉴点

    已有嵌入索引的团队可加一层 cosθ·sinθ 边权图加单步扩散补多跳,省掉 LLM 建图 token,代价是图质量绑死嵌入质量且只覆盖单步跳转。

  2. Hacker News · AI 讨论82

    Agent Scrum:用两小时冲刺调度 AI 编码智能体团队,38 天跑完 324 个冲刺

    作者用一支 AI 编码智能体团队在 38 天里围绕真实产品待办跑了 324 个两小时冲刺,其中专职 scrum 团队 agent 执行的 90 个冲刺里 79% 的承诺故事在冲刺内完成,仪式耗时不到 5 分钟。

    借鉴点

    能拿走一套可照抄的 Agent Scrum 最小配置,产品负责人 agent 管规划、独立 scrum master agent 跑两小时冲刺、外部定时器触发收尾;代价是回顾项 159 条只关了 40 条,合并环节和写代码一样耗时。

  1. 掘金71

    MemTrace 如何自动溯源并优化 LLM 记忆系统错误

    MemTrace 把 LLM 记忆流水线转成可执行的记忆演化图,用图归因 Agent 定位最早决定性故障操作,再据此自动改写提示词,在 Mem0 加 LoCoMo 上三轮优化后任务性能提升 7.62%。

    借鉴点

    能拿走一套可复用的记忆系统排错链路,插桩录制执行图、沿图定位最早故障操作、再把归因结果转成 prompt 改写;落到知识沉淀和本地部署调优上,代价是归因准确率约一半、每轮要重跑完整流水线。

  2. MarkTechPost78

    Polymathic AI 与普林斯顿等机构发布 FlashMap,Qwen3-8B 解码最高提速 6.14 倍

    Polymathic AI、普林斯顿大学、USC ISI、NYU 和 Flatiron Institute 的研究者发布 FlashMap,用连续 flow map 替代离散扩散草稿器,一次前向传播草拟 16 个 token 的整块。

    借鉴点

    能拿走的是用连续 flow map 一次草拟 16 token 的投机解码方案,配 vLLM 和 SGLang 插件即可接入现有推理服务;代价是要按目标模型单独训练 0.5B drafter,且温度大于 0 时需改采样配置。

  3. MarkTechPost78

    UC Berkeley 开源 LEANN 向量索引,60M chunk 的 RAG 索引从 201 GB 降到 6 GB

    UC Berkeley Sky Computing Lab 开源了 LEANN 向量索引,它不在磁盘上保存完整嵌入向量,而是在查询时按需重算,仓库基准里 60M chunk 的 Wikipedia 索引从 201 GB 降到 6 GB,论文在 MLSys 2026 获最佳研究论文。

    借鉴点

    能拿走的是剪枝图加 PQ 表、查询时只重算搜索路径上节点的做法,把 60M chunk 索引从 201 GB 压到 6 GB,可落到本地知识库和端侧 RAG;代价是检索从 0.05 s 涨到 2.48 s,重算仍占约 76% 查询延迟。

  4. Google Research58

    Google Research 提出 sleep 框架,让 LLM 在持续学习中保留知识

    Google Research 提出 sleep 框架,让 LLM 在活跃交互与离线睡眠两个阶段间交替,把短期上下文巩固进长期参数。

    借鉴点

    可借鉴的是把持续学习拆成唤醒与睡眠两段,睡眠期用 MoE 扩容加 GKD 与 RL 模仿把上下文蒸馏进参数,再随机激活专家生成合成数据做筛选微调;落到本地模型部署和知识沉淀,代价是要预留专家容量并维护重置与筛选流程。

  5. Hacker News · AI 讨论71

    Pallavi Singla 用 30 条实时查询评测 You.com、Tavily、Exa、Parallel 四家搜索 API

    Pallavi Singla 在 30 条 agent 式查询上横向评测 You.com、Tavily、Exa、Parallel 四家搜索 API,覆盖 GTM、保险、金融三类场景,每条查询重复 3 次共 90 次调用。

    借鉴点

    能拿走一套可复跑的搜索 API 评测框架,含 30 条 agent 式查询、答案键、promptfoo 配置和 MCP 接入方式,可用来给自家 agent 选搜索后端;代价是要自备四家 API key,且只跑了一天数据、每类 10 条,差一两条属噪声。

  1. 掘金81

    阿里 ATH-MaaS 开源 0.8B 统一 OCR 模型 OvisOCR3,OmniDocBench v1.6 得分 96.74

    阿里 ATH-MaaS 团队 10 月 20 日发布 OvisOCR3 技术报告,一个基于 Qwen3.5-0.8B 的统一 OCR 模型,单模型覆盖文档解析、通用 OCR、KIE、图表描述和跨页表格重建五类任务,权重已在 HuggingFace 开源。

    借鉴点

    能拿走双归一化分支加权重融合、关系优先奖励两套配方,落到 RAG 数据管道和本地部署;代价是四阶段无消融、教师算力账未披露。