跳到正文
AI News · smol.ai·· 2026-09-09精选AI 评分80

DeepSeek 发布 V4.1-Flash 开源权重模型,采用因果编码器-解码器架构

not much happened today

AI 导读

DeepSeek 发布 V4.1-Flash 开源权重模型,采用因果编码器-解码器架构,输入侧激活 8B 参数、输出侧激活 16B 参数,主打推理效率与低成本。

借鉴点

能拿走的是 890 bytes/token 的 KV 压缩思路和 SSD 流式卸载跑全精度权重的做法,可落到本地模型部署线;代价是 763B 总参数仍需 256GB 内存加 64-96GB 显存,吞吐只有个位数到几十 tok/s。

来源:AI News · smol.ai · news.smol.ai