跳到正文
  1. Hugging Face Blog78

    Liquid AI 发布 LFM3 系列,六个 2B 级多模态模型共用同一 backbone

    Liquid AI 发布 LFM3 新一代 Liquid Foundation Models,把文本、视觉、音频、omni 和决策模型统一到 2B 参数级的同一 backbone 上,全部开源权重并已在 Hugging Face 上线。

    借鉴点

    六个 2B 级模型共用一个 backbone,单卡微调即可落地,文本模型 4-bit 约 1GB 可塞进端侧;代价是各模态需分别选型,d1 系列只输出结构化判断而非生成文本。

  1. TechCrunch · AI72

    Recursive 发布可在笔记本运行的编码模型 Flint,称开发过程大部分由 AI 完成

    Recursive 发布首个模型 Flint,这是一个可在笔记本上离线运行的免费编码模型,以 Apache 2.0 许可在 Hugging Face 开放下载。

    借鉴点

    能拿走的是 MoE 只激活 2.5B/40B 参数、低比特训练压缩 71% 这两个端侧编码模型的配置思路;可落到本地模型部署线,代价是官方承认它比付费编码助手更需要人拆小任务。

  1. MarkTechPost75

    NVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB 开源小模型,面向本地语音智能体与游戏角色

    NVIDIA 发布开源小模型 Nemotron 3.5 Bolt E4B 4GB,面向在 RTX、Jetson 和 Spark 硬件上本地运行的语音助手、游戏 NPC 和机器人界面。

    借鉴点

    能拿走纯 RL 后训练配方、2:1 非推理/推理样本配比和 Q4_K_M 量化加 DFlash 投机解码的部署组合,落到本地模型部署和 Agent 工具调用这条线;代价是 4GB 只是显存目标,GGUF 实际 6.18GB,Tau2-Bench 落后 Qwen3.5-4B 约 20 分。

  1. NVIDIA Blog78

    NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 系列开源模型

    NVIDIA 发布开源 120B 参数模型 Nemotron 3.5 Super VL,主打多模态智能体任务,官方称吞吐量最高为同类模型 5 倍,参数量约为其最大推理模型的五分之一。

    借鉴点

    开源权重加训练配方和数据集,可拿 120B 的 Super VL 做多模态文档解析与工具调用,或把 Bolt 74B-A9B 用 2-bit 量化塞进 24GB 本地跑 agent,代价是要自己接 NeMo 做后训练。

  1. Google DeepMind78

    Google DeepMind 发布 EmbeddingGemma 2 端侧多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一个把文本、代码、图像、视频和音频映射到统一嵌入空间的端侧多模态嵌入模型,采用 Apache 2.0 许可,参数量 740M。

    借鉴点

    可把本地 RAG 的检索层换成单一多模态嵌入模型,文本 270M、视觉 170M、音频 300M 按需加载,MRL 截到 128 维省 6 倍存储;代价是需自行接 LiteRT 或 transformers.js 部署。

已经到底了