跳到正文
  1. Hugging Face Blog71

    Phonon TTS 发布端侧语音模型,登顶 Hugging Face Open TTS 榜单

    Phonon TTS 发布可在设备本地运行的小型语音模型,无需服务器和网络,提供约 65 MB 和 75 MB 两个尺寸,覆盖英语、法语、德语、西班牙语和葡萄牙语。

    借鉴点

    能拿走 ptts 多后端推理框架和 Transformers 里约 200 行的模块化接入写法,把 TTS 落到本地模型部署与端侧语音产线,代价是要自己处理 flow matching 训练不稳定和声音张量预计算。

  1. AWS Machine Learning Blog58

    Exowatt 用 SageMaker 无服务器微调让 Qwen3 小模型在准确率上超过前沿模型

    Exowatt 用 Amazon SageMaker AI 无服务器模型定制微调 Qwen3-1.7B 和 Qwen3-14B,在告警分诊和能源市场分析两个任务上分别达到 0.911 和 0.975 macro-F1,均超过 Claude Sonnet 4.6、Claude Opus 4.7 等前沿模型。

    借鉴点

    可复用其数据配方:少量人工核验样本加三倍改写扩增,改写后逐条校验标签与数字不变;代价是改写与校验环节要额外投入,且需自建证据引用校验。

  2. Hugging Face Blog78

    Liquid AI 发布 LFM3 系列,六个 2B 级多模态模型共用同一 backbone

    Liquid AI 发布 LFM3 新一代 Liquid Foundation Models,把文本、视觉、音频、omni 和决策模型统一到 2B 参数级的同一 backbone 上,全部开源权重并已在 Hugging Face 上线。

    借鉴点

    六个 2B 级模型共用一个 backbone,单卡微调即可落地,文本模型 4-bit 约 1GB 可塞进端侧;代价是各模态需分别选型,d1 系列只输出结构化判断而非生成文本。

  1. NVIDIA Blog62

    NVIDIA 在 GTC Berlin 展示本地 AI 硬件全线,DGX Spark 64GB 周五开售并支持八机集群

    NVIDIA 在 GTC Berlin 展示 RTX Spark、DGX Spark 和 DGX Station 三条本地 AI 硬件线,DGX Spark 64GB 版本从 10 月 23 日起由合作伙伴出货。

    借鉴点

    能拿走的是 DGX Spark 集群配置、Model Launcher 一键拉模型接 OpenCode、以及 llama.cpp/vLLM 投机解码加速参数;可落到本地模型部署和软件工厂两条线,前提是要有 DGX Spark 或 RTX PRO 硬件,八机集群仍需手动配置。

  1. NVIDIA Blog78

    NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 系列开源模型

    NVIDIA 发布开源 120B 参数模型 Nemotron 3.5 Super VL,主打多模态智能体任务,官方称吞吐量最高为同类模型 5 倍,参数量约为其最大推理模型的五分之一。

    借鉴点

    开源权重加训练配方和数据集,可拿 120B 的 Super VL 做多模态文档解析与工具调用,或把 Bolt 74B-A9B 用 2-bit 量化塞进 24GB 本地跑 agent,代价是要自己接 NeMo 做后训练。

  1. Google DeepMind78

    Google DeepMind 发布 EmbeddingGemma 2 端侧多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一个把文本、代码、图像、视频和音频映射到统一嵌入空间的端侧多模态嵌入模型,采用 Apache 2.0 许可,参数量 740M。

    借鉴点

    可把本地 RAG 的检索层换成单一多模态嵌入模型,文本 270M、视觉 170M、音频 300M 按需加载,MRL 截到 128 维省 6 倍存储;代价是需自行接 LiteRT 或 transformers.js 部署。

已经到底了