跳到正文

技术方向

开源生态 最新动态

开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。

374 条精选近 30 天 362 条共收录 1,367 条

更新

精选归档 · 第 17 页

10月22日周四第 321–340 条
  1. Hacker News · AI 讨论80

    Brain v2 发布:可自托管的极简 Agent 服务器

    Brain v2 发布,这是一个可自托管的开源 Agent 服务器,定位为 Claude Managed Agents 和 OpenAI Agents SDK 的替代方案,用自己选的模型跑在自己的基础设施上。

    借鉴点

    可把会话、事件流、可插拔 harness、工具服务和 checkpoint 拆开自托管,替换 Claude Managed Agents 那套托管方案;代价是要自己跑 Go 1.26+ 和 Node 24+ 服务并维护工具服务。

  2. Hacker News · AI 讨论80

    UC Berkeley Sky Computing Lab 开源 Agent 调试与性能剖析平台 Agency

    UC Berkeley Sky Computing Lab 开源了 Agency,一个用于运行、调试、性能剖析和控制 AI 智能体的平台,把 LLM 请求、工具调用和系统活动汇总到一处。

    借鉴点

    能拿它当 agent 的 htop+gdb,用关键路径剖析定位长任务里到底卡在模型请求、工具调用还是等待;前提是 Linux x86-64、Python 3.12+ 和 Docker/Podman,接入已有 Claude Code、Codex CLI 会话仍是实验性,控制能力有限。

  3. Hacker News · AI 讨论74

    LiteLLM 1.107.0 遭供应链投毒,窃取云凭证与 AI 密钥

    Socket 研究团队披露 LiteLLM 1.107.0 在 PyPI 和 Docker 上遭供应链攻击,恶意 Python 启动钩子会窃取云凭证、私钥、浏览器数据和 Codex、Claude、Gemini、Cursor 等 AI 工具的认证文件。

    借鉴点

    能拿走的是排查清单,包括 cook.pth 启动钩子、/healthcheck 外传地址和镜像 digest 固定;本地模型部署和 CI 发布流程可据此自查,代价是要逐个环境翻 Python 启动文件和浮动 tag。

  4. Hacker News · AI 讨论71

    Asymptote Labs 开源 Beacon,为 AI 智能体提供跨 harness 记忆

    Asymptote Labs 开源 Beacon,把 Claude Code、Codex、Cursor 等 20 多个 agent harness 的会话遥测统一成一种格式,再蒸馏成可复用模式与工作流。蒸馏结果需人工审核,之后通过 skills 或 MCP 供后续任意 agent 调用,项目地址为 https://github.com/Asymptote-Labs/agent-beacon。

    借鉴点

    能拿走的是跨 harness 采集会话遥测再蒸馏成可复用技能的做法,可接到多 agent 协作和知识沉淀线上,代价是要人工审核蒸馏结果,且只覆盖已接入的 20 多个 harness。

10月21日周三
  1. Hugging Face Blog60

    IBM 发布 Granite Speech 5.0 系列语音模型

    IBM 更新 Granite Speech 系列,新增 granite-speech-5.0-2b,并修订 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。

    借鉴点

    三个模型按精度、端侧速度、说话人归属分工选型,2B 版支持 2000 词关键词偏置和语言 ID 提示词,代价是关键词表要自己维护、格式化输出得在提示词里显式要求。

  2. Hacker News · AI 讨论74

    Summonr 发布开源编码智能体 0.1.0,称 token 消耗为 Codex 的三分之一

    Summonr 发布开源编码智能体 0.1.0,官方称在 Terminal-Bench 2.1 上每解决一个任务的输入 token 比 Codex 少 3 倍、内存占用约 27 MB 比 Codex 的 276 MB 少约 10 倍。

    借鉴点

    能拿走的是多子智能体共享构建缓存、@ 提及跨模型派活、复用本机 Chrome 免 API key 搜索这几处配置;可落到软件工厂和本地模型部署两条线,代价是没有沙箱、需自备容器,且基准数据由官方自测。

  3. Hacker News · AI 讨论71

    VT Code 开源终端编码 agent,支持沙箱工具与可恢复会话

    vinhnx 在 Hacker News 发布开源终端编码 agent VT Code,可在仓库内探索、规划、编辑和验证,支持托管或本地模型、沙箱化工具与可恢复会话。

    借鉴点

    可借鉴其 HOVER 循环(假设、观察、验证、评估、修正)与只读规划加 turn diff 审查的做法,用于软件工厂的编码 agent 流程;代价是需 Rust 1.98.1+ 自行构建,Windows 产物滞后。

  4. Hacker News · AI 讨论78

    LLMPanel 开源 LLM 部署控制面板,四步起一个 OpenAI 兼容端点

    LLMPanel 开源了一套自托管 LLM 推理控制面板,指向 GPU 服务器或 RunPod、Vast.ai 云账号,选模型、量化和 GPU 后即可在后台完成部署,得到一个带 API key、用量分析和聊天 playground 的 OpenAI 兼容端点。

    借鉴点

    能拿走一套自托管推理面板的部署路径,四步选 provider、模型、量化、GPU 后自动拉权重起容器,落到本地模型部署这条线;代价是要 Linux root 和 NVIDIA 驱动,暴露公网前得自己收口注册和容器端口。

  5. Hacker News · AI 讨论78

    CTGT 研究:开启确定性推理后,策略解析流水线仍产出四种不同结果

    CTGT Engineering 在 Qwen3.8-27B 上开启 SGLang 确定性推理后,同一份银行政策手册跑四遍仍提交了 32、31、33、33 条不同义务,其中一次漏掉升级到合规负责人的规则。

    借鉴点

    能拿走一套可复用的排查协议和 Concordance 工具,定位同文档多次运行结果不一致的源头,落到知识沉淀和软件工厂线;代价是要接受它只测一致性、不测规则正确性,且结论来自单文档五次运行。

  6. Hacker News · AI 讨论71

    mnestiq 发布 AI Agent 防篡改飞行记录器 v0.2 草案

    mnestiq 在 GitHub 发布 AI Agent 飞行记录器 v0.2 草案,记录 Agent 看到、决定和执行的内容,用 RFC 8785 规范化 JSON 加 SHA-256 做哈希链、Ed25519 签名的 Merkle 检查点保证事后不可篡改。

    借鉴点

    能拿走一套可落地的 Agent 取证做法,哈希链加 Ed25519 签名检查点、按来源给上下文打标签、六条注入检测规则,落到软件工厂的 Agent 事故复盘线;代价是签名密钥要放在 Agent 读不到的地方,否则整条链可被重签。

  7. Hacker News · AI 讨论78

    Memdoor 开源编码智能体发布,支持无头工作流与断点续跑

    Memdoor 发布开源编码智能体,可在 CI、定时任务或 shell 中无头运行,并用 memdoor resume 从手机或窗口接管同一次运行。它把工作流写成每步一个 YAML 由 mario 按图执行,独立步骤并行、检查通过才算完成、失败从失败步骤续跑。

    借鉴点

    可把工作流写成每步一个 YAML 由 mario 按图执行,独立步骤并行、检查通过才算完成、失败从断点续跑;代价是要自己接 provider key,免费模型会拿数据训练。

  8. NVIDIA Blog62

    NVIDIA 在 GTC Berlin 展示本地 AI 硬件全线,DGX Spark 64GB 周五开售并支持八机集群

    NVIDIA 在 GTC Berlin 展示 RTX Spark、DGX Spark 和 DGX Station 三条本地 AI 硬件线,DGX Spark 64GB 版本从 10 月 23 日起由合作伙伴出货。

    借鉴点

    能拿走的是 DGX Spark 集群配置、Model Launcher 一键拉模型接 OpenCode、以及 llama.cpp/vLLM 投机解码加速参数;可落到本地模型部署和软件工厂两条线,前提是要有 DGX Spark 或 RTX PRO 硬件,八机集群仍需手动配置。

  9. NVIDIA Blog58

    NVIDIA 发布 Nemotron 3.5、Kumo、Cosmos 3.5 等开源模型家族

    NVIDIA 扩展开源模型家族,覆盖语言、机器人、生物和量子计算,包括 Nemotron 3.5 Super VL、Nemotron 3.5 Bolt、Nemotron Retriever、Kumo、Cosmos 3.5、Alpamayo 2 Edge、BioNeMo RFD4-Proteina 和 Ising。

    借鉴点

    能拿走的是 Nemotron 3.5 系列加 Kumo、Cosmos、Ising 的开源权重与 NIM 打包方式,可落到本地模型部署和 Agent 数据管线;代价是多数模型要自己用本地数据后训练,Bolt E4B 4GB 还要等到 10 月 23 日。

  10. Hacker News · AI 讨论71

    Squidbrake 用 12 起真实 AI 智能体事故回放测试自家开源拦截工具

    Squidbrake 0.14.2 把 12 起公开报道的 AI 智能体删数据、泄密、乱花钱事故回放到自家规则上,15 个有害动作拦下 14 个,其中 3 个直接阻断、11 个转人工审批、1 个未拦住。

    借鉴点

    可复用的做法是把 12 起公开事故和 62 段会话做成可跑脚本,逐步标注 harm/routine/sensitive 再对比四种拦截策略;代价是回放命令多为作者重建,且审批人由脚本扮演,误报率才是真实成本。

  11. 掘金74

    开源 AI 漫画到微信公众号草稿箱流水线,含分格一致性与并发锁实现

    作者开源了一条从 LLM 选题、剧本、主体确认、分格生图到微信公众号草稿箱的 Web 流水线,MIT 协议,clone 后三条命令即可跑起来。项目用 Next.js 15 加 Prisma 7 和嵌入式 SQLite,约 3.4 万行、201 个单测全绿,核心业务放在不依赖框架的 pipeline 纯函数层。

    借鉴点

    能拿走 pipeline 纯函数加 route 薄壳的分层、按格动态拼参考图、文件名版本化与进程内串行写链,落到小说创作和视频产线;代价是单进程锁不能横向扩展,生图协议要按网关方言另写通路。

  12. Latent Space76

    DeepSeek 开源生产推理栈 DeepInfer,单集群日均 155 万亿 token、每卡时收入 38 美元

    DeepSeek 开源了支撑 V4.1 Flash 的生产推理引擎 DeepInfer,并公布单集群日均 155 万亿 token、96% 输入缓存命中、首 token 平均 400ms、生成 230 token/s(编码场景 300 token/s)等生产数据。

    借鉴点

    能拿走的是分阶段部署形状和缓存分层做法,prefill 用八卡机、decode 用 64–128 卡超节点,KV 前缀放 3FS 共享存储让路由不再绑缓存亲和;代价是 KV 管理和负载均衡未开源,得自己补。

  13. Hacker News · AI 讨论74

    Hugging Face 开源 Agent Manager,在私有 Space 里统一管理多个编码 CLI 会话

    Hugging Face 开源 Agent Manager,一个跑在 Docker Space 里的私有云管理器,可在浏览器中同时运行 Claude Code、Codex、Gemini CLI、opencode、Hermes、OpenClaw 和 fx 等编码 CLI 会话。

    借鉴点

    把 Claude Code、Codex 等 CLI 会话收进一个私有 Docker Space,挂 /data 桶保住登录和文件,代价是 Space 休眠即断进程、应用本身无登录鉴权。

  14. 掘金78

    Cloudflare 开源 security-audit-skill,让编码代理分阶段互审漏洞

    Cloudflare 开源 security-audit-skill,一套让支持工具调用的编码代理按侦察、狩猎、验证、输出、再验证、报告六阶段做安全审计的技能文件,核心是让全新代理实例去反驳候选发现而非自我背书。

    借鉴点

    能拿走六阶段审计流程和 coverage-ledger.json、findings.json 两个账本文件,把编码代理的漏洞排查改成可追溯、可多轮累加;前提是代理支持工具调用和并行子代理,且本机有 Node.js,缺 OS 沙箱时结论会卡在 needs_validation。

  15. Hacker News · AI 讨论78

    Unterm 发布纯 Rust 终端,用 MCP 让外部 AI agent 驱动并监管

    Unterm 发布跨平台纯 Rust 终端,把终端本身做成可被外部 AI agent 通过 MCP 驱动的接口,提供 152 个需鉴权的 JSON-RPC 方法,可创建 shell、执行命令、读取窗格状态、截图和录制会话。

    借鉴点

    能拿走的是把终端做成 MCP 可控面这套做法,152 个方法加 NATO 实例发现文件,让外部 agent 直接驱动窗口;落到本地多 agent 编排这条线,代价是要接受终端内不做 AI 生成、配置全走浏览器。

  16. AWS Machine Learning Blog58

    AWS 在 SageMaker HyperPod 上微调 GPT-OSS-20B 多语言推理,SFT 加 GRPO 把答案语言正确率提到 70%

    AWS 在 Amazon SageMaker HyperPod 上用 LoRA 微调 GPT-OSS-20B,SFT 把推理语言正确率从 22% 提到 100%,再叠加 GRPO 把答案语言正确率从 62% 提到 70%。

    借鉴点

    能拿走 SFT 与 GRPO 的分工判据和 LoRA r=8/α=16 配置,落到本地模型部署与训练流水线;前提是先测出 pass@k 与 pass@1 的差距,没有余量时 GRPO 白烧 GPU。