公司与模型
月之暗面的 Kimi 产品更新、K 系列开源模型与长文本技术进展。
5 条精选近 30 天 5 条共收录 76 条
文章解释 KIMI K3 混合注意力中的 KDA 把历史压成固定 recurrent state 和 convolution state，使 Prefix Cache 与 KV Cache 不再等价，恢复点必须是 MLA KV 与两类状态都齐全的共同边界。
能拿走 SGLang 与 vLLM 对 KDA 状态缓存的具体源码入口和函数名，落到本地模型部署这条线，前提是接受 checkpoint 密度换显存与重算的取舍，且 INT8 checkpoint 并非默认开启。
Anthropic 发文《构建 Agent：何时该把子 Agent 折叠回主循环》，称带技能的单 Agent 在质量、成本和延迟上优于多子 Agent 分工，token 消耗远低于后者，并开源 single-agent-loop-kit 工具。
可把子Agent按需折叠成Skill，砍掉80%以上系统提示词，落到软件工厂的多步任务编排上；前提是模型上下文够长，否则省下的token会被信息衰减和人格碎片吃掉。
孟健实测月之暗面 10 月 23 日至 24 日发布的 Kimi K3.1 Pro，用 Kimi Code 以 --yolo 模式在约 9 分钟内修好「字流」中 X 长文章 11 张配图只插入 10 张的旧 Bug，全程未手写代码。
能拿走一套四段式排障提示词（现象、复现命令、修改范围、验收红线）和 --yolo 启动方式，落到软件工厂的修 bug 环节；代价是长任务耗时半小时以上且套餐额度消耗快。
月之暗面发布 Kimi K3.1 Pro，在 K3 的 2.8T MoE 基座上只做后训练联合强化学习，API 定价从 K3 的约 21/108 元降到 13/68 元每百万 Token。
能拿走的是三档定价与 MoE 稀疏激活的成本账，以及自部署 5.6TB FP16 落盘、8 张 H100 跑 INT8 的硬件门槛，可落到本地模型部署和软件工厂选型；代价是基座锁死在 7 月那版 2.8T，长程调试仍需人工打断。
Kimi 发布 K3.1 Pro 和 K3.1 Pro Highspeed，前者是 K3.1 系列首个模型，也是其迄今最强的 3T 级开源权重模型，上下文窗口 100 万 token，Highspeed 版本速度提升 2-3 倍。
可借鉴其大规模联合 RL 的分层优化思路（RL 框架、长上下文推理、沙箱、rollout 调度），以及训练阶段剔除网络安全数据来压制攻击能力的做法；前提是自建训练栈，代价是工程量大。