跳到正文

技术方向

开源生态 最新动态

开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。

374 条精选近 30 天 362 条共收录 1,367 条

更新

精选归档 · 第 4 页

11月3日周二第 61–80 条
  1. Hacker News · AI 讨论71

    Trim 开源本地代理,在请求到达 LLM 前压缩编码提示词

    Trim 发布本地 OpenAI 兼容代理,把 Cursor、Continue、VS Code Chat、Claude Code 等客户端的 Base URL 指向 http://127.0.0.1:8888/v1,在请求发往上游模型前压缩提示词。

    借鉴点

    可把 Cursor、Claude Code 等客户端的 Base URL 指向本地 8888 端口的 OpenAI 兼容代理,用 AST 启发式压缩或本地 LLMLingua 的 Deep 模式缩短提示词;代价是 Deep 模式需先 bootstrap 装依赖,且压缩会改写用户正文。

  2. 钛媒体71

    DeepSeek Harness 团队发布 Super-agent 设计探索文章并开源原型

    DeepSeek Harness 团队 10 月 31 日晚发布技术文章《Super-agent 设计探索:迈向更自主的 Agent 系统》,配套原型 dsh-superagent-prototype 同日在 GitHub 以 MIT 协议开源。

    借鉴点

    router 只做分派、worker 上下文隔离并自行订阅话题,可换掉主智能体高频协调的串行派单;代价是两级消息过滤和 watchdog 要自己搭,异步 ReActLoop 尚未默认开启。

  3. 掘金78

    拆解 DeepSeek 开源 Super-agent 原型:授权链设计、实验数字读法与未实装的 Watchdog

    作者逐文件核对 DeepSeek Harness 团队 2026-10-31 发布的 Super-agent 架构文章与同日开源的 deepseek-ai/dsh-superagent-prototype(MIT/TypeScript,三天 1.36 万 star),指出原型实装的只有授权门禁,文章主角 Watchdog 在 docs/007 中并不存在。

    借鉴点

    能抄的是授权门禁三件套,主动行为默认影子模式只记账、准入规则写成代码而非提示词、凭证不可变且恢复前重验,可直接换掉现在靠提示词约束 Agent 越权的做法,前提是只支持单仓库且 Watchdog 未实装。

  4. 掘金78

    GPUStack 在 DGX Spark 上跑通 Qwen-Image-2.1 的完整部署记录

    GPUStack 团队在 DGX Spark(GB10、aarch64、121GB 统一内存)上部署了 Qwen-Image-2.1,通过 GPUStack 网关对外提供 OpenAI 兼容的文生图、图改图、RGBA 透明底和 LoRA 四项能力,硬件零改动。

    借鉴点

    能拿走一套 ARM 上跑 vLLM-Omni 镜像的排查顺序和只新增不替换的依赖锁法,落到本地模型部署这条线;代价是要自己写几十行参数翻译层,且 LoRA 只验了加载链路。

  5. 掘金78

    scx 0.11.0 发布:零依赖的查询感知上下文压缩器

    spapient 发布 Rust 项目 scx 0.11.0,在把日志、命令输出、diff 喂给 LLM 前按查询删掉无关整行、保留证据行原文,crates.io、GitHub Releases、Homebrew、npm 四平台同步。

    借鉴点

    能拿走的是只删整行不改原文、证据行加邻域无条件保留、--max-tokens 超限如实报 overflow 的压缩纪律,可接到本地模型部署和 Agent 上下文治理上;代价是词面命中为主,查询零共享词时回退原文,且对已压缩文本再压会级联退化。

  6. 掘金71

    Oh My Claudian 插件让 Claude Code、Codex、Cursor 直接接入 Obsidian 知识库

    开源 Obsidian 插件 Oh My Claudian 复用本机已登录的 Claude Code、Codex、Cursor Agent 等 8 种 Agent CLI,无需额外 API Key 即可在笔记侧边栏对话。

    借鉴点

    能复用本机已登录的 Claude Code、Codex 等 8 种 Agent CLI 接入 Obsidian,省掉另配 API Key;代价是桌面版需 ≥1.7.2,且 PATH 与残留 ANTHROPIC_API_KEY 会挡住 CLI 识别。

  7. 掘金75

    给 K8s 加自动值班员:KubeSentry 分级故障自愈引擎实现

    作者在系列第 4 篇中给自研 K8s Operator KubeSentry 加上分级自愈引擎,按过载型、局部故障、版本级故障三类信号分别从 L1 扩容、L2 摘除、L3 回滚起步,再按观察窗逐级升级。

    借鉴点

    能拿走故障三分类起点映射、五条状态机规则和改 App.Spec.Image 而非 Deployment 的回滚写法,落到本地模型部署的运维线上;代价是要先有 Operator 和 Prometheus 指标,且 revisionHistoryLimit 为 0 时回滚无目标。

  8. 掘金71

    开发者开源 OpenSelect,为 Claude Code 做多账号无感切号代理

    开发者 vinijack 以 MIT 协议开源 OpenSelect,这是一个用 Bun + TypeScript 写的本机守护服务,把多个 opencode-go 账号和 Z.ai、MiniMax、Command Code、Ollama Cloud、DeepSeek 官方等订阅池化,在 Claude Code 和 opencode 里实现首字节前无感换号重试。

    借鉴点

    能拿走多账号池化加首字节前换号重试的做法,把 17 个 opencode-go 账号和多家订阅串成 Claude Code 的本地高可用入口,代价是要自己维护账号凭据和 97% 阈值调参。

  9. 掘金78

    T3 Code 如何把代理会话与代码工作区分开管理

    T3 Code 是一个 agent harness control surface,在桌面、Web 和移动客户端上控制开发机上的 Codex、Claude Code 等 coding agent,自身不重新实现这些运行时。

    借鉴点

    能拿走的是把命令收据、事件日志、投影和副作用 outbox 放进同一 SQLite 事务、外部动作交给 EffectWorker 的拆分方式,可换掉现在单进程里发完消息就当作已执行的做法;代价是要自己处理幂等标识、重放边界和 WAL 断电回退。

  10. Hugging Face Blog58

    Hugging Face 提出模型集成契约 MIC,用缩小版 checkpoint 在 CPU 上拦截回归

    Hugging Face 发布 transformers-mic,提出模型集成契约(MIC)标准,把真实 checkpoint 缩成小 fixture 并在 CPU 上跑固定用法路径,与人工审核过的基线比对。

    借鉴点

    可照搬的是一套缩小真实 checkpoint 做 CPU 快速集成测试的配方,含四步缩模型、冻结基线、按改动文件选测试,代价是基线需人工审核且目前不阻塞 PR。

  11. 掘金78

    Kestrel_VLLM 第 30 篇:Qwen3.5-27B 的 MTP 投机草稿头适配与自造基准验证

    作者在 x86-64 + CUDA 后端上为 Qwen3.5-27B 的 MTP 投机草稿头完成 CPU 侧适配,梳理出 15 个张量(另 2 个与主模型共享)和 stem 加 1 层 full attention 加 1 层 FFN 的结构,模块级对拍 11 阶段 × 5 token 全部 PASS,max_rel 在 1.5e-6 到 3.4e-6。

    借鉴点

    能拿走 MTP 头 15 张量清单、stem 接线和四个写反也跑得动的口径点,落到本地模型部署的投机解码线上;代价是没有官方 oracle,基准得自己造,且只能证单侧笔误。

  12. 掘金75

    沙箱核心功能系列 05:E2B、CubeSandbox、OpenSandbox、agent-sandbox 的 Agent 与进程执行 API 对比

    作者源码级拆解 E2B、CubeSandbox、OpenSandbox、agent-sandbox 四家沙箱的 Agent 进程执行与文件 API,按位置通道、进程、文件、有状态代码、安全五个维度逐家对照。

    借鉴点

    能拿走四家沙箱进程/文件 API 的逐项对照和自研清单,落到本地模型部署与 Agent 工具链选型;代价是要读源码级细节,且各家默认鉴权普遍偏弱,验收得盯默认路径。

  13. Hacker News · AI 讨论78

    MCPgraphy 发布 MCP 代理,从 agent 调用中学习工具在哪些状态下可用

    MCPgraphy 发布一个插在 agent 与 MCP server 之间的代理,工具原样透传,它通过每次调用前后回读资源,从 agent 自己的调用中构建状态-工具行为图,在 warn 或 block 策略下提前警告或拦截已知会失败的调用。

    借鉴点

    能拿走的是一层被动学习代理,从 agent 自己的调用里建状态-工具行为图,用 warn/block 两档策略拦下重复失败调用;落到本地模型部署和软件工厂的工具链上,代价是要为每个 server 手写 adapter 描述观测工具和 id 参数,且隐藏状态类失败它看不出来。

  14. 掘金75

    用 Hermes Agent + Python 搭小红书 AI 资讯自动发布系统:50 天发 35 篇

    作者用 Hermes Agent 加 9 个 Python 脚本搭出一条小红书 AI 资讯自动发布流水线,从 2026-09-14 跑到 2026-11-02 共发出 35 篇,失败 3 次且均为模型侧超时。

    借鉴点

    可拿走 CDP 常驻 profile 保登录态、AX 树定位 shadow DOM 按钮、三级降级点击、三判据验收与幂等查重这套做法,落到内容发布产线;代价是登录态需人工维护、强依赖页面选择器。

  15. 掘金71

    Impeccable 用 61 条无模型规则拦截编码 Agent 的模板化界面

    Paul Bakaus 的 Impeccable 把编码 Agent 的界面同质化问题从提示词里拆出来,用 1 个技能、24 条命令和 61 条确定性检测规则在保存文件时做检查,命令行和浏览器扩展跑这些规则时不调用模型也不要 API key。

    借鉴点

    可照搬它的分层做法,把产品事实写进 PRODUCT.md、视觉方向写进 DESIGN.md,再用 61 条不调模型的规则在保存时拦截模板化痕迹;代价是要按各家工具分别配置钩子落点,装错层会静默失效。

  16. 掘金71

    开源 agent-senses:用 MCP 让 Claude Code 读懂抖音视频的四个坑

    作者开源 agent-senses,把抖音链接转成含元数据、逐句转写和互动数的结构化对象,并封装成 MCP 服务供 Claude Code 调用。文中记录四个坑,最危险的是播放页会自动轮播下一条,DOM 兜底会静默填入别人的标题和作者,作者用 aweme_id 校验加文案前 15 字比对来防。

    借鉴点

    能拿走 Playwright 挂 on_response 拦 detail 接口、按 aweme_id 校验加 DOM 前 15 字比对防串条、opencc t2s 后处理简繁混排,落到知识沉淀与本地工具链,代价是 cookie 加密绕行和分片 URL 时效签名必须立刻下载。

  17. 掘金80

    FreeToken 引擎解析:如何在游戏本上运行 290B 参数 MoE 模型

    FreeToken 是一个边缘原生 MoE 推理引擎,声称能把 290B 参数级开放权重模型放到游戏 PC 上以交互式速度本地运行。它靠带宽自适应的 CPU-GPU 协同执行、全层双缓冲预填充流式传输和全局 LRU 专家缓存来应对显存带宽瓶颈,并用语义锚点检查点只重算上下文编辑后的分支。

    借鉴点

    能拿走带宽自适应专家调度、全层双缓冲预填充、语义锚点 KV 缓存三套做法,落到本地模型部署线;前提是接受文中未给实测数据的结论,且需 RTX 30 以上显卡。

  18. 掘金78

    Lightpanda 用 Zig 重写无头浏览器,内存降 16 倍、速度快 9 倍

    Lightpanda 是一款用 Zig 从头编写的无头浏览器,官方数据显示相比无头 Chrome 内存占用从 2GB 降到 123MB、执行时间从 46s 降到 5s。

    借鉴点

    能拿 Lightpanda 的 CLI fetch 转 Markdown/结构化数据、CDP 接 Playwright,替换无头 Chrome 跑抓取;代价是 Linux 二进制依赖 glibc,Alpine 需换镜像,Windows 只能走 WSL2。

  19. 掘金74

    Vercel Labs 开源 agent-desktop,用无障碍树让 AI 代理操作桌面应用

    Vercel Labs 开源 Agent Desktop,让 AI 代理通过操作系统无障碍树读取并操作桌面应用,生成 JSON 快照并给每个可操作元素分配 ref 引用标识符,操作后再快照验证结果。

    借鉴点

    能拿走的是 ref 加快照的桌面操作循环和骨架模式钻取稠密 UI 的做法,可接到本地模型部署与软件工厂的桌面自动化环节,代价是 macOS 要授辅助功能权限、ref 随快照过期需重拍、快照可能带私密内容。

  20. 掘金78

    作者亲测整理 8 个 GitHub Agent Skill 仓库及安装方式

    作者整理并实测了 8 个 GitHub 上的 Agent Skill 仓库,覆盖约束 AI 写代码、设计审美、读懂老代码和 Obsidian 笔记库四类需求,逐一给出仓库地址、Skill 清单和安装命令。

    借鉴点

    能直接抄走 8 个 Skill 仓库的安装命令和触发方式,落到软件工厂的编码约束与评审环节;代价是 star 数与 ponytail 的 53% 代码量、45% token 节省均为作者自述口径,无法复核。