跳到正文
  1. Hacker News · 首页71

    百度开源 ERNIE-5.5-Flash-Base 基座模型,280B 总参数、每 token 激活 14B

    百度发布 ERNIE-5.5-Flash-Base,一个 280B 总参数、每 token 激活 14B 的稀疏 MoE 基座模型,在 33.5T token 上从零预训练,训练上下文逐步扩到 128K,微调与推理支持 1M token 上下文。

    借鉴点

    可拿走稀疏 MoE 加混合 MLA/HCA 注意力、Multi-Router 路由和 ECHO 复用末层做投机解码草稿这几处设计,落到本地模型部署与训练线;代价是要自己扛 280B 权重和 1M 上下文显存。

  1. MarkTechPost72

    腾讯微信视觉团队开源 WeVisOne-VL,统一检测、OCR、分割与抠图

    腾讯微信视觉团队发布开源视觉语言模型 WeVisOne-VL,提供 2B(2.44B 参数)和 4B(4.83B 参数)两个版本,用单个模型完成检测、指代、计数、指向、OCR、分割和 alpha matting。

    借鉴点

    能用一个 2B/4B 模型加 9.6M 像素解码器替掉检测器、OCR 和分割器三套组件,单卡 BF16 跑 Transformers 或 vLLM 即可;代价是 GGUF 出不了 mask,微调代码还没放出来。

  1. IT之家83

    小米开源 0.8B 文档理解模型 Xiaomi-OCR-0,支持 Markdown 与 JSON 输出

    小米开源轻量级文档理解模型 Xiaomi-OCR-0,参数规模 0.8B,权重与推理代码已上线 Hugging Face 和 GitHub,单一模型覆盖文档解析、关键信息抽取与 OCR 视觉问答三类任务。

    借鉴点

    0.8B 单模型同时做文档解析、字段抽取和 OCR 视觉问答,输出 Markdown/LaTeX/JSON,还带 MCP 服务和 Agent Skill 包,能直接换掉文档解析链路里拼多个模型的方案;代价是要自己验证古籍手写和复杂表格上的实际表现。

  2. MarkTechPost71

    Baseten 发布 2B 决策模型 joey-1,每百万输入 token 收费 0.01 美元

    Baseten 旗下 Base Labs 发布 2B 决策模型 joey-1,直接返回标签和校准概率而非生成文本,每百万输入 token 收费 0.01 美元,权重以 MIT 协议开源在 Hugging Face。

    借鉴点

    能拿走的是决策模型输出标签加校准概率、共享前缀一次预填答多问的做法,可换掉现在用大模型生成文本再解析的路由环节;代价是知识面窄,需按置信度阈值回退到 9B 或 27B 模型。

  1. Mistral AI78

    Mistral 开源 Mistral Large 4(Le Chonk)权重,1 万亿参数多模态模型

    Mistral 发布 Mistral Large 4(Le Chonk)的开源权重,这是其 1 万亿参数原生多模态旗舰模型,此前已进入公开预览。

    借鉴点

    能拿走的是三档推理模式与 token 效率取舍,以及 vLLM/SGLang 自托管部署路径;可落到本地模型部署和软件工厂,代价是 1 万亿参数对硬件要求高,商用 MaaS 还需另签许可。

  2. Reddit · r/artificial74

    商汤开源 27B 模型 SenseNova Code2Video,用写代码方式生成视频并公开生产日志

    商汤开源 Code2Video,一个基于 Qwen3.8-27B 微调的 27B 模型,不直接生成像素,而是为每个镜头写程序、渲染、看帧后改代码。文字、公式和图表数字从源数据输入,避免乱码;每个元素是命名对象,改一处只需小编辑而非整段重生成。

    借鉴点

    能拿走 skill 文件、需求转 brief 模板和含消息与工具调用的生产日志,复刻写代码渲染再改的产线;代价是只适合动效与图表类视频,实拍风格不适用。

  1. 量子位78

    国产开源文档解析模型OXR登顶三榜,1.3B参数靠RSI后训练

    国产开源文档解析模型OXR在OmniDocBench(97.18)、olmOCR-Bench(87.84)和DocParsingBench(87.76)三个榜单均列第一,参数量仅1.3B。

    借鉴点

    可借鉴的是后训练用RSI自造数据的三段流程,VLM判对错并保留Uncertain档、归因聚类成原因簇、再按真实版式合成训练数据;前提是任务有客观标准答案,OCR之外的领域未必成立。

  2. 雷峰网74

    百度开源文心 Unlimited OCR 2,支持任意页数文档解析

    百度发布并开源文心 Unlimited OCR 2,称其实现任意页数文档解析,实测一次性解析《哈利·波特》全系列 7 部、累计超 3600 页。

    借鉴点

    能拿走 SR-SWA 的页面门控加高分视觉 Token 桶思路,把长文档解析从结果拼接换成单次无限解码,落到知识沉淀的整本书、长研报入库;代价是需按百页级场景自测显存与精度。

  1. 量子位87

    岩山科技岩芯矩阵联合港科大、CMU 开源 EdgeRock-4B,KV Cache 减少 99.1%

    岩山科技旗下岩芯矩阵联合港科大、CMU 等高校发布并开源 EdgeRock-4B,在 256K 上下文下 KV Cache 固定为 72MiB,相比源模型 Qwen3.5-4B 减少 99.1%。

    借鉴点

    能拿走的是固定容量记忆的三段拆分做法,循环状态抓大意、1024 token 局部窗口管眼前、1024 条锚点库留关键细节,把每条序列 KV 钉死在 72 MiB;落到本地模型部署和长跑 Agent 上可提前算清显存,代价是要从 Qwen3.5-4B 分阶段转换并训练评分网络,不是直接换权重。

  1. 掘金71

    月之暗面发布 Kimi K3.1 Pro,价格砍半、Terminal-Bench 4.0 追到 Opus 5.5 差 0.7 个百分点

    月之暗面发布 Kimi K3.1 Pro,在 K3 的 2.8T MoE 基座上只做后训练联合强化学习,API 定价从 K3 的约 21/108 元降到 13/68 元每百万 Token。

    借鉴点

    能拿走的是三档定价与 MoE 稀疏激活的成本账,以及自部署 5.6TB FP16 落盘、8 张 H100 跑 INT8 的硬件门槛,可落到本地模型部署和软件工厂选型;代价是基座锁死在 7 月那版 2.8T,长程调试仍需人工打断。

  2. Hacker News · 首页78

    Kimi 发布 K3.1 Pro 与 K3.1 Pro Highspeed,3T 级开源权重模型支持 100 万 token 上下文

    Kimi 发布 K3.1 Pro 和 K3.1 Pro Highspeed,前者是 K3.1 系列首个模型,也是其迄今最强的 3T 级开源权重模型,上下文窗口 100 万 token,Highspeed 版本速度提升 2-3 倍。

    借鉴点

    可借鉴其大规模联合 RL 的分层优化思路(RL 框架、长上下文推理、沙箱、rollout 调度),以及训练阶段剔除网络安全数据来压制攻击能力的做法;前提是自建训练栈,代价是工程量大。

  3. Hacker News · 首页71

    BottleCap AI 发布 ThinkingCap-gemma-4-26B-A4B-it,思考 token 平均减少 38.9%

    BottleCap AI 发布 ThinkingCap 系列第五个模型 ThinkingCap-gemma-4-26B-A4B-it,在十二项基准上平均减少 38.9% 的思考 token,最高减少 69.1%,准确率平均只降 0.15pp。

    借鉴点

    能拿走的是同一套采样配置下把思考 token 压掉 38.9% 的微调做法,可换掉本地部署里长思考模型的推理成本,代价是 AA-LCR 掉 4pp、长上下文多模态是主要失分项。

  1. IT之家72

    MiniMax 开源 M3.1 Flash 模型权重,总参数 428B、激活 23B

    MiniMax 稀宇科技宣布开源 MiniMax M3.1 Flash 的模型权重,总参数 428B、激活参数 23B,能力较上一代 M3 全面提升。该模型通过前三个全注意力层改为稀疏注意力、路由 MoE 专家迁移到 W4A4、稀疏注意力索引器和主分支从 Q8KV8 迁移到 Q8KV4,以及 Power-aware scheduling 提升推理效率。

    借鉴点

    能拿走的是稀疏注意力加 QAT 到 W4A4 的推理提速组合,可落到本地模型部署线;前提是得先有支持 W4A4 和 Q8KV4 的推理框架与芯片适配。

  1. NVIDIA Blog58

    NVIDIA 发布 Nemotron 3.5、Kumo、Cosmos 3.5 等开源模型家族

    NVIDIA 扩展开源模型家族,覆盖语言、机器人、生物和量子计算,包括 Nemotron 3.5 Super VL、Nemotron 3.5 Bolt、Nemotron Retriever、Kumo、Cosmos 3.5、Alpamayo 2 Edge、BioNeMo RFD4-Proteina 和 Ising。

    借鉴点

    能拿走的是 Nemotron 3.5 系列加 Kumo、Cosmos、Ising 的开源权重与 NIM 打包方式,可落到本地模型部署和 Agent 数据管线;代价是多数模型要自己用本地数据后训练,Bolt E4B 4GB 还要等到 10 月 23 日。

  1. 爱范儿71

    VAST 开源实时世界模型 EdenLive,含 5B/14B 权重与 EdenGolem skill

    VAST 开源实时生成式渲染器 EdenLive,同时放出 5B、14B 模型权重(各含双向生成与少步流式生成两个版本)、实时流式推理代码、EdenGolem v0.1 和前端工作台,并公开技术报告。

    借鉴点

    能拿走 5B/14B 权重、流式推理代码和 EdenGolem skill,把交互状态与画面渲染拆开,接进游戏灰盒或具身数据增强流程;代价是要自备上游交互系统维护规则,长时复杂交互尚未验证。

  2. 掘金74

    记忆原生模型 MemT 1.0 开源发布,上线 8 天下载量达 100K

    MemT 1.0 记忆原生大模型开源发布,上线 8 天总下载量达 100K。

    借鉴点

    能拿走的是 MemT 的部署路径和记忆读写机制,Nano 版两张 GPU 起、SGLang 单节点启动,记忆快照存到 memt-state 目录;代价是 Nano 权重约 70 GB,需 Linux CUDA 和 Python 3.11 环境。

  1. Hugging Face Blog66

    Reflection 发布 501B 开源 MoE 模型 Beam,支持 1M 上下文与编码智能体

    美国新实验室 Reflection 在 Hugging Face 发布首个模型 Beam,501B 参数 MoE、每 token 激活 23B,支持 1M token 上下文,Apache 2.0 许可,主打编码与智能体场景。

    借鉴点

    能拿走混合注意力与残差缩放的具体配比、vLLM/SGLang 启动参数和 LoRA SFT 配方,落到本地模型部署线;代价是 BF16 权重约 1TB,需 4 张 B200 或 8 张 H200 起步。

  2. Hugging Face Blog72

    IBM 发布 Granite Switch 4.1:单端点同时提供对话、决策与语音转写

    IBM 发布 Granite Switch 4.1,8B 和 30B 两个版本在同一个托管端点上同时提供对话、通用与安全决策、语音转写能力。模型组合了新的通用决策 aLoRA、在安全决策任务上平均优于 Jev 1.13 等模型的 Guardian aLoRA,以及 OpenASR 榜首的 Granite-Speech-5.0-Turbo-CTC,整体显存占用约等于基座模型本身。

    借鉴点

    把通用决策、安全决策和 ASR 三个 aLoRA 挂到同一基座、共享 KV cache,显存约等于基座本身;自组 Switch 模型需自己训 aLoRA,Adapter SDK 尚未放出。

  1. Mistral AI64

    Mistral 发布时序基础模型 Timestral,最大 209M 参数

    Mistral 发布首个时序基础模型系列 Timestral,含 5M、28M、123M、209M 四个尺寸,最大模型以 209M 参数在 GIFT-Eval、TIME、fev-bench 三个公开基准的预训练零样本模型中排名第一,参数约为此前 SOTA 的三分之二。

    借鉴点

    可借鉴的是合成数据优先加两阶段训练配方,以及把协变量按目标、仅历史、已知未来分角色做注意力掩码;前提是自建时序预测管线,代价是需自造合成数据并调 21 分位 pinball loss。

  2. Hugging Face Blog73

    瑞士 Apertus 1.5 发布 8B 与 70B 开源多模态模型

    Apertus 1.5 在 Apertus 1.0 的 8B 和 70B 基础上加入图像与音频理解、可选思考模式、4 倍长上下文(262,144 tokens)、更好的指令遵循与工具调用,权重于 2026 年 7 月 24 日以 Apache 2.0 协议发布在 Hugging Face。

    借鉴点

    可借鉴早期融合做法,图像音频经 tokenizer 变成离散 token 与文本同序列,架构不变、训练按纯文本速度跑;代价是只扩词表、模型只输出文本,音频理解仍是实验性。