跳到正文
  1. Hacker News · AI 讨论80

    Meta 分享薄编排器架构:1300行路由层调度14个专家智能体

    Meta 工程团队发文介绍其数据管道智能体采用的薄编排器架构,用约1300行代码把20多条工作流路由到14个专家子智能体,编排层自身不做任何领域推理。此前单个全能智能体在生产环境中出现概念串扰和幻觉,改为确定性路由加隔离上下文的专家分工后,新增列配置的准备时间从手工三到四天降到一小时以内,约三分之二的改动无需大量人工修改。

    借鉴点

    可拿走薄编排器加14个专家子智能体的分层做法,7步固定协议里只有委派一步走LLM,落到软件工厂能替换单agent串行派活,代价是要先拆清领域边界并维护25+知识文件。

  1. Apple Machine Learning58

    Apple 介绍用 MLX 在 Mac Studio 上本地与分布式推理大模型

    Apple 发布新版 MLX,演示在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open,四台 M5 Ultra 集群解码速度超过 36 tokens/s。

    借鉴点

    能拿走 mlx.launch 配 jaccl 后端跑流水线/张量并行的完整命令和 OpenCode 接本地 server 的配置,落到本地模型部署这条线,前提是 macOS 26.2 加 Thunderbolt 5 双线互联,816B 模型仍需四台机器才跑得动。

已经到底了