技术方向
开放权重、能下载下来自己部署的模型，开源框架与 GitHub 上爆火的 AI 项目。
374 条精选近 30 天 362 条共收录 1,367 条
作者在 Windows + RTX 3080 20GB 上用 ComfyUI portable 加 ComfyUI-GGUF 跑通 Qwen-Image-2.1 Q4 文生图，验证配置为 768×768 单张 8 步采样，单次含加载耗时 53.36 秒。
能拿走一套 Windows ComfyUI 跑 Qwen-Image-2.1 Q4 的完整配置，含三份权重用途、8 步 sigma 序列和改插件后必须重启后端的坑，前提是 RTX 3080 20GB 且只验证了 768×768 文生图。
Answer me with HTML 是一个 Agent 技能，模型只写 Markdown 草稿，由内置 CLI 负责排版、配色和绘图，约 50 ms 生成一个可离线打开的单文件 HTML 页面。
把排版、配色、SVG 坐标交给 CLI，模型只写 Markdown 草稿，token 降到约 1/8；代价是需 Node.js 20+ 并接受固定模板与主题，自定义样式受限。
Cindy 开源智能体发布，可把 Claude Code 和 Codex 作为可互换的 harness 运行，模型与 harness 可自由组合并在任务中途切换，工作区、记忆、技能和工具保持连续。
可参考它把 Claude Code 与 Codex 当可换 harness 混用、任务中途切换且记忆技能不断线的编排思路，代价是要接受默认连官方云服务、本地模式功能受限。
得物技术发布《昇腾 910C 大模型推理优化实践》下篇，在 vllm-ascend 源码、算子层和 MTP 投机解码三处做优化，Qwen3.5-35B-A3B 在 c=1 下 TPOT 从 8.2ms 压到 5.0ms。
能拿走一整套昇腾 910C 上 vllm-ascend 的改法，包括多流重叠 shared expert、block_table CPU 快路径、词表并行 argmax 和 910C 融合算子，落到本地模型部署这条线；代价是要改 vllm-ascend 源码并重编 AscendC 算子，且收益集中在 c≤8 低并发。
Paradev 发布一个统一工作台，可同时运行 Claude Code、Codex、OpenCode 等任意 CLI 编码智能体，每个任务分配独立的 Git worktree 和分支，官方称可扩展到 100+ 个 agent 并行。
每个 agent 独占一个 Git worktree 并行跑，配 CLI、SDK 和 MCP server 可脚本化接入 CI，代价是合并时仍会冲突，桌面端只有 macOS 和实验性 Linux。
Aroha 开源一套面向 AI 智能体的签名授权协议，人类签发带消费上限和 TTL 的 IntentMandate，编排器只能向下收窄权限再委派给子智能体，任一环节可离线校验整条签名链。
能拿走的是可衰减的签名授权链和两行接入的 verifyMandateChain，把多智能体跨厂商调用的权限收窄落到软件工厂的派单链路上，代价是要自建 DID 与撤销见证服务，运行时桌面端尚未开源。
Mistrial 是一个可对现有 LLM judge 重复采样并输出可靠性卡片的命令行工具，报告自一致率、翻转用例、judge 间 Cohen's kappa 与 Krippendorff's alpha，以及与人标的准确率。
能拿它把现有 LLM judge 重跑多轮，量出自一致率、翻转用例和 kappa，再按 gate-risk 反推 CI 通过线；代价是要多花调用费，且 kappa 在几十条用例上不构成证据。
Entire 发布首个面向智能体与人类协作的 Git forge，用 Trail 取代传统 PR 评审，每次推送由多个评审 agent 在云端沙箱独立打分并给出 findings，分数稳定且问题清零后才允许合并。
可借鉴 Trail 用多个评审 agent 独立打分、连续 5 轮看分数是否收敛再合并的做法，以及 entire-graph 本地建代码地图省 token；代价是要接入 Daytona、E2B 沙箱和 Buildkite、Depot 的 CI。
load-lock 发布一个整机共享的计数信号量，让 OpenCode、Codex CLI、Claude Code 等多个并行编码 agent 在跑构建和测试前先 acquire 许可，排队时继续做轻量工作，容量释放后按 FIFO 收到 offer 再 claim 执行。
多 agent 并行跑构建和测试时用共享计数信号量排队，acquire 后继续写代码、收到 FIFO offer 再 claim；代价是要装 daemon 并给每个 harness 配 hook，Claude Code 和 Cursor 适配只做了契约测试。
清华大学与香港中文大学研究者开源 AKV，一个基于 SGLang 的 KV cache 工程服务系统，让智能体直接丢弃选定的 KV 条目并复用其余部分，而不改写历史文本。
能拿走的是 drop/repos 两种 KV 操作加 OpenAI 兼容的无状态接口，把工具调用历史直接丢缓存而不重写文本，落到本地模型部署和 Agent 长任务线上；代价是只支持 Qwen、GPT-OSS、MiniMax-M2 文本模型，且需 SGLang 与 NVIDIA GPU。
岩山科技旗下岩芯矩阵联合港科大、CMU 等高校发布并开源 EdgeRock-4B，在 256K 上下文下 KV Cache 固定为 72MiB，相比源模型 Qwen3.5-4B 减少 99.1%。
能拿走的是固定容量记忆的三段拆分做法，循环状态抓大意、1024 token 局部窗口管眼前、1024 条锚点库留关键细节，把每条序列 KV 钉死在 72 MiB；落到本地模型部署和长跑 Agent 上可提前算清显存，代价是要从 Qwen3.5-4B 分阶段转换并训练评分网络，不是直接换权重。
ykisana 发布 Claude Code 插件 skill-spotter，记录你反复输入的提示词和 Claude 执行过的命令、文件、工具，在任务出现 3 次且跨 2 个以上会话时建议存成可用 /name 调用的 Skill，重复出现的指令则建议写进 CLAUDE.md。
能拿走的是按提示词加工具调用模板做重复任务聚类、命中三次才建议存成 Skill 的阈值设计，可落到知识沉淀和软件工厂线；代价是匹配靠模板化命令，Claude 换写法就漏，合成基准的 1.00 精确率还没在真实会话上验过。
Nodecode 发布开源智能体，以单进程跑在 SBCL 上，模型只有一个 eval 工具，用 Lisp 在运行中的程序里定义新工具并保留，多数版本更新无需重启即可生效。
可借鉴它把工具定义写成独立文件、git 提交、启动即加载的自改写机制，以及上下文整段保留加按需召回的做法；代价是无沙箱，eval 与聊天消息都按用户权限执行，需放进容器或 VM 再长期跑。
AgentTrust 发布一套厂商无关的零信任策略层，为 LangChain、CrewAI、AutoGen、OpenAI Assistants、Anthropic Tool Use 等框架上的自主智能体提供权限管控与审计。
能拿走一套可落地的多智能体权限收窄与人工审批方案，含子智能体能力衰减、风险评分阈值 0.65 触发人工复核、ECDSA 签名审计链，代价是需自建 Node 服务并接入各框架运行时。
NeuronDump 是一个 MIT 许可的开源工具，读取 Ollama 和 llama.cpp 使用的 GGUF 文件，展示层、注意力头、词表和权重统计，并可删除未使用部分后写出仍能在 Ollama 和 llama.cpp 中运行的更小 GGUF。
能拿 GGUF 元数据把模型画成可展开的 3D 图，按层、头、专家做剪枝并直接看加载与困惑度变化，落到本地模型部署这条线；代价是要 Rust 1.88 以上自行编译，模拟影响需加 trace 特性，且目前只在 Windows 的 Ollama 模型上测过。
Optio 是 MIT 许可的开源智能体编排平台，可把编码 agent 和自动化跑在自己的 Kubernetes 集群或本机上，从提示词一路走到 pull request。
能拿走的是把编码 agent 跑在 K8s 池化 pod 里、按 git worktree 隔离仓库任务的做法，可接到软件工厂那条线；代价是要自备 K8s、PostgreSQL、Redis 和各家 agent 的凭证。
Radian 是一个 Rust 单二进制编码 agent，启动无需运行时，读文件按行号范围读，上下文窗口快满前自动压缩。它的 radian exec 无头命令把每一步按 JSON 逐行输出，退出码区分完成、失败和超出预算，同一会话文件可在全屏界面里接着跑。
能拿走的是 radian exec 的 JSONL 逐步输出加退出码区分完成失败超预算，把编码 agent 塞进 CI 或别的编排器；代价是 Linux 沙箱要装 bubblewrap，且它只被调度不调度别人。
Cognition 发布三个 Agent Skills，用于在仓库中定位并修补 PHP、Node.js 和自管理 GitLab 的远程代码执行漏洞，可在 Devin、Claude Code、Codex、Cursor 等读取 SKILL.md 的编码智能体中运行。
三个 SKILL.md 技能按清点、审批门、确认版本存在、镜像内前后跑测试、单仓单 PR 的流程打补丁，可搬进软件工厂的依赖升级线；代价是要 Docker、镜像仓库权限和逐仓人工审批。
mnemonic-proxy 是一个夹在编码 Agent 和本地模型之间的透明 HTTP 代理，Agent 照常发送完整历史，由代理决定模型实际读到什么，旧消息和工具输出被替换成带 id 的一行回执，原文逐字留在磁盘上可随时取回。
能拿走的是透明 HTTP 代理这一层做法，把旧工具输出换成带 id 的一行回执、原文留在磁盘供 recall 取回，并关掉客户端自带压缩；代价是引擎窗口至少 16K、需配 --slot-save-path 才有秒级恢复，且小模型常不主动调 recall。
斯坦福和 UC Berkeley 研究者发布 TokenGate，一个给预训练 LLM 加可学习 token 剪枝的模块，长上下文 prefill 的 TTFT 提速 1.4x 至 11.3x，峰值显存降低 1.5x 至 3.4x，且无精度损失。
可复用其 MLP 门控加 LoRA r=16 的 token 剪枝做法，把长文档 prefill 的 TTFT 压到 1.4x 至 11.3x，代价是需训练门控、每步比纯 LoRA 慢 1.3x，且只剪文档不剪问题。