跳到正文
  1. Hugging Face Blog71

    Phonon TTS 发布端侧语音模型,登顶 Hugging Face Open TTS 榜单

    Phonon TTS 发布可在设备本地运行的小型语音模型,无需服务器和网络,提供约 65 MB 和 75 MB 两个尺寸,覆盖英语、法语、德语、西班牙语和葡萄牙语。

    借鉴点

    能拿走 ptts 多后端推理框架和 Transformers 里约 200 行的模块化接入写法,把 TTS 落到本地模型部署与端侧语音产线,代价是要自己处理 flow matching 训练不稳定和声音张量预计算。

  2. MarkTechPost72

    Ricursive AI 发布 Ripple-65B Preview 开源权重模型,Terminal-Bench 2.1 得分 80.5

    Ricursive AI 发布 Ripple-65B Preview,这是一个 65B 稠密开源权重模型,从零预训练用于智能体编码,在 Terminal-Bench 2.1 上自报 80.52 分。

    借鉴点

    能拿走的是稠密 65B 做智能体编码的配方,含 ladder 实验筛选、长上下文 SFT 与截断重要性采样加长度惩罚的 RL,代价是知识类与 MCP 调用明显偏弱。

  3. Hugging Face Blog64

    Dharma-AI 发布 20 亿参数 Dharma Field Extractor,按 schema 输出结构化 JSON

    Dharma-AI 发布 20 亿参数的 Dharma Field Extractor,输入文档图像和可选 schema,输出带类型的结构化 JSON,同一 checkpoint 无需按文档类型微调。

    借鉴点

    可借鉴在 DharmaOCR-LITE v1.1 上挂 LoRA 适配器做字段抽取,用 schema 指定键名和类型、缺失字段返回 null,直接对接下游系统;代价是要自备 GPU 推理,且训练数据以英文和葡萄牙语文档为主。

  1. MarkTechPost72

    腾讯微信视觉团队开源 WeVisOne-VL,统一检测、OCR、分割与抠图

    腾讯微信视觉团队发布开源视觉语言模型 WeVisOne-VL,提供 2B(2.44B 参数)和 4B(4.83B 参数)两个版本,用单个模型完成检测、指代、计数、指向、OCR、分割和 alpha matting。

    借鉴点

    能用一个 2B/4B 模型加 9.6M 像素解码器替掉检测器、OCR 和分割器三套组件,单卡 BF16 跑 Transformers 或 vLLM 即可;代价是 GGUF 出不了 mask,微调代码还没放出来。

  2. MarkTechPost71

    NVIDIA 在 DGX Spark 上用三项优化把 Ling-3.0-flash 的 MoE 推理吞吐提升 42.5%

    NVIDIA 技术博客给出在单台 DGX Spark 上加速 Ling-3.0-flash 这个 124B 参数、5.1B 激活 MoE 模型推理的三项叠加优化,在全部 1,319 道 GSM8K 题上解码吞吐从 37.81 提升到 53.89 tokens/s,涨幅 42.5%,平均延迟下降 24.5%,准确率 96.89% 对 96.82%。

    借鉴点

    可照搬三项叠加做法,换 Humming MXFP4 kernel、开 SGLANG_ENABLE_FP8_LM_HEAD=1、用模型自带 NEXTN 做 MTP 投机解码;坑是 FP8 LM head 与 MTP 同开必须共享完整 LM head 模块,否则静默回退、接受长度掉到 1.00。

  3. Hugging Face Blog71

    IBM Research 用合成数据微调 20B 小模型 Palette 按自有设计语言做幻灯片

    IBM Research 在 Hugging Face 博客介绍 Palette,用 IBM Design Language 的合成数据对 20B 开源权重模型做 LoRA 微调,让它按自有设计语言生成幻灯片。

    借鉴点

    可拿走设计者写 JSON brief、编码者按单页并行出 pptxgenjs 代码的两段式拆分,配几何检查器只保留有改进的重写;代价是要自建合成数据与渲染检查闭环,且小模型在叙事型 deck 上仍落后。

  1. Hugging Face Blog58

    Hugging Face 提出模型集成契约 MIC,用缩小版 checkpoint 在 CPU 上拦截回归

    Hugging Face 发布 transformers-mic,提出模型集成契约(MIC)标准,把真实 checkpoint 缩成小 fixture 并在 CPU 上跑固定用法路径,与人工审核过的基线比对。

    借鉴点

    可照搬的是一套缩小真实 checkpoint 做 CPU 快速集成测试的配方,含四步缩模型、冻结基线、按改动文件选测试,代价是基线需人工审核且目前不阻塞 PR。

  2. Hacker News · AI 讨论78

    作者用 3 万段柔术教学视频微调 Qwen2.5-7B 打造领域教练模型

    作者 maxdemarzi 公开了一套在单张 GPU 上构建巴西柔术领域 AI 教练的完整配方,基于 Qwen2.5-7B-Instruct 训练出 bjj-coach-7b-v3,在自建 BJJ-Bench-250 上运动学精度达 5.00/5.0、幻觉通过率 100%。

    借鉴点

    可复用的完整配方,含上下文头、知识图谱互斥惩罚、CLIP+VLM 视觉块、5 路 listwise 重排、2.5x 决策权重 QLoRA 与 disable_adapter 零额外显存 DPO,单卡约 30 分钟跑完,代价是要自建领域词典和标注基准。

  1. Hacker News · 首页74

    spinf 开源 spinf-serve 推理服务器,单次读取内容批量打分

    spinf 开源 Apache 2.0 的 spinf-serve 推理服务器,一次读取内容即可对同一段文本回答多个分类与抽取问题,每个答案输出选项概率而非生成文本。

    借鉴点

    可把批量分类从逐题重读改成一次读取多分支打分,拿到每个选项的概率和 floor_p 做阈值判断;代价是需 24GB 显卡和 fp8 支持,且只适合吞吐不适合单请求延迟。

  1. IT之家83

    小米开源 0.8B 文档理解模型 Xiaomi-OCR-0,支持 Markdown 与 JSON 输出

    小米开源轻量级文档理解模型 Xiaomi-OCR-0,参数规模 0.8B,权重与推理代码已上线 Hugging Face 和 GitHub,单一模型覆盖文档解析、关键信息抽取与 OCR 视觉问答三类任务。

    借鉴点

    0.8B 单模型同时做文档解析、字段抽取和 OCR 视觉问答,输出 Markdown/LaTeX/JSON,还带 MCP 服务和 Agent Skill 包,能直接换掉文档解析链路里拼多个模型的方案;代价是要自己验证古籍手写和复杂表格上的实际表现。

  2. 雷峰网71

    英伟达与 MIT 团队基于 MiniMax H3 开源 4K 视频增强方案 Open-H3-Regenerate-2K

    英伟达与 MIT 的 Efficient-Large-Model 团队在 Hugging Face 发布基于 MiniMax H3 的视频增强项目 Open-H3-Regenerate-2K 权重,推理代码开在 NVlabs/Sana 仓库,支持 2560×1440 的 2K 输出、最高 3840×2160 的 4K 重生成。

    借鉴点

    能拿走的是只训细化 LoRA、主干与 VAE 冻结,再叠社区适配器三步去噪做 2K/4K 重生成;落到视频产线可把低分辨率草稿放大成片,代价是要 B200 级算力和潜空间放大器等社区组件配合。

  3. MarkTechPost71

    Baseten 发布 2B 决策模型 joey-1,每百万输入 token 收费 0.01 美元

    Baseten 旗下 Base Labs 发布 2B 决策模型 joey-1,直接返回标签和校准概率而非生成文本,每百万输入 token 收费 0.01 美元,权重以 MIT 协议开源在 Hugging Face。

    借鉴点

    能拿走的是决策模型输出标签加校准概率、共享前缀一次预填答多问的做法,可换掉现在用大模型生成文本再解析的路由环节;代价是知识面窄,需按置信度阈值回退到 9B 或 27B 模型。

  1. Hugging Face Blog60

    Mistral 发布 Mistral Large 4(Le Chonk)多模态 MoE 模型并在 Hugging Face 上线

    Mistral 发布 Mistral Large 4(代号 Le Chonk),这是文本加图像输入的多模态 MoE 模型,约 1T 总参数、49B 激活参数,上下文窗口 1M tokens,提供 FP8 与 NVFP4 两个官方版本。

    借鉴点

    能直接拿走 transformers、vLLM、llama.cpp 三套启动命令和 TRL 微调脚本,落到本地模型部署与软件工厂线;代价是 1T 总参数,2-bit 量化也要 512GB 统一内存单机或 4 张 RTX6000 Pro 分布式才跑得动。

  1. Hugging Face Blog68

    NVIDIA 发布 Nemotron 3.5 Transcribe 语音模型与 Granary v2 数据管线

    NVIDIA 发布开源权重模型 Nemotron 3.5 Transcribe,把转写、说话人分离、翻译和音频问答合进一个 checkpoint,支持 40 种语言转写、31 种语言与英文互译、13 种语言说话人标注,可处理最长 1 小时录音并标注最多 8 位说话人。

    借鉴点

    可拿走 Granary v2 四阶段数据管线和 NeMo Speech 微调配方(编码器+投影训练、LoRA 调语言模型、按解码结果选 checkpoint),落到本地模型部署与知识沉淀线;代价是需自备至少 100 条真实标注片段做选点,且通用英文 WER 会小幅上升。

  2. 雷峰网71

    逐际动力开源 FluxVLA Engine 技术报告解读,统一 VLA 数据训练评测与真机部署

    雷峰网解读逐际动力开源的具身智能工程底座 FluxVLA Engine 技术报告,该底座贯通数据、训练、评测、推理与真机部署,10 月 22 日完成重要更新。报告称在英伟达 AGX Orin 64GB 上 GR00T 推理频率从 3.2Hz 提升到 7.4Hz、π0.5 从 1.4Hz 提升到 4.4Hz,并引入 RTC 与轨迹后处理解决时序错位和物理约束问题。

    借鉴点

    能拿走的是三层真机落地机制,CUDA Graph 加速、RTC 前缀条件、轨迹后处理限速限加速度,可直接套到自家 VLA 部署链;代价是各模型仍需适配器与动作空间转换,RL 效果依赖奖励设计。

  3. MarkTechPost78

    Polymathic AI 与普林斯顿等机构发布 FlashMap,Qwen3-8B 解码最高提速 6.14 倍

    Polymathic AI、普林斯顿大学、USC ISI、NYU 和 Flatiron Institute 的研究者发布 FlashMap,用连续 flow map 替代离散扩散草稿器,一次前向传播草拟 16 个 token 的整块。

    借鉴点

    能拿走的是用连续 flow map 一次草拟 16 token 的投机解码方案,配 vLLM 和 SGLang 插件即可接入现有推理服务;代价是要按目标模型单独训练 0.5B drafter,且温度大于 0 时需改采样配置。

  4. MarkTechPost72

    Liquid AI 发布 LFM3 系列 6 款 2B 级开源多模态模型

    Liquid AI 发布 LFM3 系列 6 款开源 2B 级模型,全部从 LFM3-1.7B-Base 一个骨干分出,覆盖文本、视觉、音频、全模态和决策任务,4-bit 下约 1 GB 内存即可在手机和笔记本上运行。

    借鉴点

    可借鉴三混合骨干的层配比(13 层门控短卷积、5 层滑窗注意力、6 层全局注意力)和四阶段后训练流程,用于本地小模型部署;代价是知识类与 agentic 编码仍是短板,商用免费上限为年营收 1000 万美元。

  1. 量子位78

    国产开源文档解析模型OXR登顶三榜,1.3B参数靠RSI后训练

    国产开源文档解析模型OXR在OmniDocBench(97.18)、olmOCR-Bench(87.84)和DocParsingBench(87.76)三个榜单均列第一,参数量仅1.3B。

    借鉴点

    可借鉴的是后训练用RSI自造数据的三段流程,VLM判对错并保留Uncertain档、归因聚类成原因簇、再按真实版式合成训练数据;前提是任务有客观标准答案,OCR之外的领域未必成立。

  1. 量子位87

    岩山科技岩芯矩阵联合港科大、CMU 开源 EdgeRock-4B,KV Cache 减少 99.1%

    岩山科技旗下岩芯矩阵联合港科大、CMU 等高校发布并开源 EdgeRock-4B,在 256K 上下文下 KV Cache 固定为 72MiB,相比源模型 Qwen3.5-4B 减少 99.1%。

    借鉴点

    能拿走的是固定容量记忆的三段拆分做法,循环状态抓大意、1024 token 局部窗口管眼前、1024 条锚点库留关键细节,把每条序列 KV 钉死在 72 MiB;落到本地模型部署和长跑 Agent 上可提前算清显存,代价是要从 Qwen3.5-4B 分阶段转换并训练评分网络,不是直接换权重。

  1. 量子位71

    模思智能与 OpenMOSS 开源 5B 生图模型 MOSS-Image,4 天海外下载 130 万次

    模思智能与 OpenMOSS 团队开源 5B 参数生图模型 MOSS-Image,上线 4 天在海外社区收获 130 万次下载,GitHub 获 1.4k Stars 并登顶 Hugging Face 文生图趋势榜。

    借鉴点

    能拿走的是结构化 JSON Layout 加 Bounding Box 控制构图、4096 tokens 长提示词和 Prompt Enhancer Skill,可落到海报电商图产线;代价是官方 50 步采样,需靠社区 8 步/4 步加速和 INT8、GGUF 量化压显存。