AI News · smol.ai·· 2026-09-09精选AI 评分80
DeepSeek 发布 V4.1-Flash 开源权重模型,采用因果编码器-解码器架构
not much happened today
AI 导读
DeepSeek 发布 V4.1-Flash 开源权重模型,采用因果编码器-解码器架构,输入侧激活 8B 参数、输出侧激活 16B 参数,主打推理效率与低成本。
借鉴点
能拿走的是 890 bytes/token 的 KV 压缩思路和 SSD 流式卸载跑全精度权重的做法,可落到本地模型部署线;代价是 763B 总参数仍需 256GB 内存加 64-96GB 显存,吞吐只有个位数到几十 tok/s。
来源:AI News · smol.ai · news.smol.ai