跳到正文

技术方向

开源生态 最新动态

开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。

374 条精选近 30 天 362 条共收录 1,367 条

更新

开源生态的精选

11月6日周五第 1–20 条
  1. 掘金78

    开源云端托管智能体平台 OMA,参考 Anthropic 设计实现手脑分离

    团队开源了云端托管智能体平台 OMA,参考 Anthropic 的 Claude Managed Agents 实现会话管理、推理与执行解耦、凭证托管和文件系统,业务方通过兼容 Anthropic SDK 的接口定义和使用 Agent。

    借鉴点

    可借鉴手脑分离的托管智能体架构,Brain 在沙箱外推理、沙箱只执行工具,会话状态由平台独立保存;代价是要自建 PostgreSQL、NATS、S3、Vault 等一整套后端,并适配非公开的 CCRv2 协议。

  2. 掘金71

    阿里云云原生团队演示用 Nacos 3.3.0 ARD 让 Agent 按任务发现工具和 Skill

    阿里云云原生团队介绍 Nacos 3.3.0 新增的 ARD(Agentic Resource Discovery)资源发现能力,让 Agent 按当前任务在 Nacos 中搜索 MCP、Skill、Prompt 和远程 Agent,再按各自协议读取使用。

    借鉴点

    能拿走 Nacos 3.3.0 开 ARD 的四个配置项、AgentFinder 的 finders.json 写法和搜索接口 curl 示例,把团队散落的 MCP、Skill、Prompt 收成一个 Agent 可检索的入口;前提是资源已发布上线并配好读取权限,向量检索和 JEV 模型要另配。

  3. Hacker News · AI 讨论78

    BeepGrid 开源轻量级智能体通信层,打通 Codex、Claude Code 与 LangChain

    BeepGrid 开源了一套面向智能体的通信层,让不同 runtime 的智能体互相发现、共享会话并向人请求输入与审批。它通过 SDK、CLI 和 MCP 接入 Codex、Claude Code、AI SDK、LangChain 及自定义 runtime,消息可路由到 Slack、邮件、Telegram 或 Discord,并持久化存储以支持断线重投。

    借鉴点

    能拿走的是跨 runtime 的 agent 通信层,用 SDK/CLI/MCP 把 Codex、Claude Code、LangChain 等接进同一会话,并带人工审批与断线重投;代价是要自建 PostgreSQL 引擎并管理可过期凭证。

  4. 掘金78

    无显卡本地跑 PLaMo 3 Translate 0.8B:llama.cpp 完整实测教程

    作者在 2016 年 4 核 Celeron J3455 无显卡小主机上,用 llama.cpp 跑通 PFN 的 PLaMo 3 Translate 0.8B(Q4_K_M,573,116,288 字节),4 线程 decode 达 7.59 tok/s。

    借鉴点

    能拿走 llama-bench 逐档扫线程加 grep ggml-cpu 查后端降级的做法,落到本地模型部署线;代价是双路机器要先 taskset 绑单 NUMA,否则测出的数每次都不一样。

  5. 掘金78

    开源模型扎堆发布后如何算显存:权重、KV 缓存与卡数的 Python 估算方法

    作者用 Python 函数估算 Kimi K3.1 Pro、文心 5.5 Flash Base、Axion 1.0 等开源模型的部署成本,结论是权重之外 KV 缓存才是决定能否跑起来的关键。

    借鉴点

    能直接拿走权重、KV 缓存、卡数三段的 Python 函数和 15% 余量参数,把选型从比榜单换成算显存;前提是拿到模型的层数、kv 头数和 head_dim,kv_heads 写成总头数会算大八倍。

  6. 掘金71

    用 CPU 做发票识别:从 OCR 文本行到结构化明细表的 4 个硬骨头

    作者开源了一个纯 CPU 本地离线运行的增值税发票识别服务,把 RapidOCR 输出的文本行和坐标还原成票面字段与商品明细表,接口格式对齐腾讯云 VatInvoiceOCR。

    借鉴点

    能拿走折行按列归属、用金额反推数量单价、用20位号码纠正票头这三条规则,落到本地离线票据结构化产线,代价是只覆盖增值税票且版式变动要补规则。

  7. 掘金78

    ModelSphere 拆解流式推理断流续写:网关层如何接上未完成的回复

    ModelSphere 开源了 continuation_gateway,在客户端与 SGLang/vLLM 之间加一层有状态网关,用 chat-continue 方式把断流后的半截回复续上,前端仍看到一条连续回答。

    借鉴点

    能拿走 chat-continue 的续写请求构造(continue_final_message 加 add_generation_prompt 关掉)和 usage 按字符系数估算的公式,落到本地模型部署的网关层;代价是每个模型乘引擎组合都得单独验证,vLLM 上部分组合要退到 render/tokenize/generate/derender 四接口路径。

  8. 掘金72

    用 FUSE 为云端 Agent 构建虚拟文件系统

    开源云端托管 Agent 平台 superduck 团队基于 FUSE 实现动态虚拟文件系统,让 Sandbox 中的 Agent 用 git、find、grep 等原生 CLI 访问用户文件与 Skill。

    借鉴点

    能拿走一套 FUSE 虚拟文件系统做法,用 PostgreSQL 命名空间加对象存储解耦逻辑路径与物理 Key,ZIP 按需展开 Skill;代价是要自建 Filestore 服务并处理 Token 签发与缓存失效。

  9. Hacker News · AI 讨论74

    Perzian 开源 Mantis,让 AI 智能体以编号文本浏览网页,比 Playwright MCP 快 36%

    Perzian 在 GitHub 开源 Mantis,把网页转成带编号的短文本而非截图供 AI 智能体读取,可作为 MCP server 接入 Claude Code、Codex、Cursor 或自建 agent。

    借鉴点

    把网页转成编号短文本喂给 agent,替代截图和可访问性树,能接进 Claude Code、Codex、Cursor 的 MCP 流程;代价是 canvas 类页面无法点击绘制,登录墙要人工介入。

  10. 掘金71

    多 Agent 项目规则从 500 行瘦身到 80 行的四步排查法

    一位 AI 产品经理把多 Agent 项目的规则文件从 540 行压缩到 82 行,单次会话注入的 token 从约 8,200 降到约 1,200,代码一次性命中率从不足 50% 升到 85% 以上。

    借鉴点

    能把 500 行规则按剥离业务事实、下沉 lint 与测试、五层归因、收敛到 AGENTS.md 四步压到 80 行,落到软件工厂的 Agent 派单流程,代价是要先配好 ESLint 和测试链路。

  11. 掘金71

    用方舟 Seed 2.1 抽取节点加代码排版,一句话生成带品牌 logo 的架构图

    作者做了一个网页工具,粘贴一句大白话就能生成带官方 logo 的工程制图风架构图,推理全部走火山方舟 Seed 2.1。模型只输出 {nodes, groups, edges} 的 JSON 规格,坐标计算、正交走线、图标装配和压线自查都由确定性代码完成,20 句实测全部出图、19 张通过零压线自查,平均 10.6 秒一张,按量计费等价成本约 3 分钱。

    借鉴点

    可拿走模型只出 nodes/groups/edges JSON、坐标交给确定性排版引擎的分工,配 Playwright 沿边采样查压线,落到软件工厂的图产出环节;代价是要自建中文 logo 词表和图标源,九节点以上布局变差。

  12. 掘金76

    WeWorker 作者复盘浏览器 Agent 两条路线:为何放弃像素派改走工具派

    WeWorker 作者复盘浏览器 Agent 的像素派与工具派两条路线,说明团队在真实站点跑一个月后因失败不可诊断、改版耐受度低、每步都过模型导致成本高而选择工具派。

    借鉴点

    可拿走 Adapter 契约加注册中心、manifest 内嵌 requires_confirmation 的写操作安全设计,以及探索 agent 生成只读工具草稿再验证上架的流程,落到本地工具接入和 Agent 派单线;代价是每站首次接入成本高,动态渲染和反自动化站点仍需人工写。

  13. Hacker News · AI 讨论78

    AgentSight 发布基于 eBPF 的 AI 智能体全系统监控工具

    AgentSight 发布本地优先的 AI 智能体可观测工具,用 eBPF 和 TLS 流量追踪把提示词、模型调用、工具决策与进程、文件、网络活动关联起来,无需 SDK、代理或厂商集成即可监控 Claude Code、Codex、Gemini CLI 等闭源 CLI。

    借鉴点

    能拿 eBPF 加 TLS 抓包把提示词、模型调用和子进程、文件、网络动作串成一条时间线,换掉只靠应用层日志排障的做法;代价是要 Linux 内核 4.1+ 和 sudo,闭源 CLI 静态链接 SSL 时还得手动指定 binary-path。

  14. Hacker News · AI 讨论80

    Umbel 开源:在 tmux 里远程调度 claude、codex、gemini 等 Agent CLI

    Umbel 是一个开源工具,可在 tmux 中交互式驱动 claude、codex、gemini、opencode 等 Agent CLI,并通过 MCP 工具、命令行或 YAML 工作流让一个会话调度其他厂商的 worker 并行干活。

    借鉴点

    能用一个二进制把 claude、codex、gemini、opencode 拉进 tmux 当 worker,靠 MCP 工具和 YAML 工作流做跨厂商并行编排;代价是需装 tmux 3.0 与各家 CLI,首次冷启动 3–5 秒。

  15. Hacker News · AI 讨论71

    腾讯发布开源大模型 Hy4,首次支持视觉理解与 computer-use

    腾讯发布新一代大语言模型 Hy4,称其已进入全球领先开源模型行列,模型权重和系统卡将在未来几天放出。Hy4 首次引入视觉理解与 computer-use 能力,可操作命令行和图形界面,并针对 Blender、CAD 等专业软件做了专项训练,在指令遵循、长上下文和长程智能体任务上有明显提升。

    借鉴点

    Hy4 首次加入视觉理解与 computer-use,并在 Blender、CAD、UE/Unity/Godot 上做专项训练,可接到视频产线和本地模型部署两条线;权重和系统卡要等几天后才放出,现在只能走 API 或腾讯云。

  16. Hugging Face Blog58

    NVIDIA 发布 Cosmos 3 四个开源世界模型检查点

    NVIDIA 在 Cosmos 世界模型开发平台下新增四个 Cosmos 3 开源权重检查点,均为 Cosmos 3 Nano 的后训练版本,各含 16B 可训练参数,采用 OpenMDW1.1 许可,允许商用与非商用。

    借鉴点

    四个 16B 后训练检查点加四阶段配方可复用,能落到视频产线与本地模型部署,代价是要 Linux 加 NVIDIA GPU 和 Docker,且短跑通不等于收敛。

  17. Hacker News · AI 讨论80

    Call4Agents 0.6 发布:给 Python 智能体动作加一次性执行与审批绑定

    Call4Agents 0.6 发布,为 Python 智能体中发邮件、付款、写库等有副作用的动作提供崩溃重试下的一次性执行保证,可接入 LangGraph、Pydantic AI、OpenAI Agents SDK、MCP 或纯 Python,不替换原有框架。

    借鉴点

    给已有 agent 的副作用工具加一层 SQLite 运行记录,用参数哈希做审批绑定和幂等键,能直接换掉崩溃重试就重复发邮件付款的流程,代价是每个动作要自己装饰、参数需稳定文本形式。

  18. Hacker News · 首页78

    Rivet 发布基于 S3 的智能体编排方案,每个 Actor 72 KB、冷启动 4.99 ms

    Rivet 发布面向智能体负载的编排器,用 actor 模型把每个 agent 做成一个由 S3 支撑的轻量 Rivet Actor,而非独立沙箱。官方数据为每个 Actor 72 KB、p99 冷启动 4.99 ms,SQLite 落在 S3 上 p99 写入 1.07 ms、读取 1.36 ms,空闲时休眠不计费。

    借鉴点

    每个 agent 换成一个 72 KB 的 Rivet Actor 共享进程,S3 当唯一依赖,能替掉每 agent 一个沙箱的部署方式;代价是 Actor 跑在共享进程里,不可信代码得另走 agentOS。

11月5日周四
  1. Hugging Face Blog71

    Phonon TTS 发布端侧语音模型,登顶 Hugging Face Open TTS 榜单

    Phonon TTS 发布可在设备本地运行的小型语音模型,无需服务器和网络,提供约 65 MB 和 75 MB 两个尺寸,覆盖英语、法语、德语、西班牙语和葡萄牙语。

    借鉴点

    能拿走 ptts 多后端推理框架和 Transformers 里约 200 行的模块化接入写法,把 TTS 落到本地模型部署与端侧语音产线,代价是要自己处理 flow matching 训练不稳定和声音张量预计算。

  2. 掘金75

    KIMI K3 的 KDA 给推理系统带来哪些挑战,SGLang 与 vLLM 如何应对

    文章解释 KIMI K3 混合注意力中的 KDA 把历史压成固定 recurrent state 和 convolution state,使 Prefix Cache 与 KV Cache 不再等价,恢复点必须是 MLA KV 与两类状态都齐全的共同边界。

    借鉴点

    能拿走 SGLang 与 vLLM 对 KDA 状态缓存的具体源码入口和函数名,落到本地模型部署这条线,前提是接受 checkpoint 密度换显存与重算的取舍,且 INT8 checkpoint 并非默认开启。