跳到正文
Hacker News · 首页· Jowsey·· 23 天前精选AI 评分78

Kimi 发布 K3.1 Pro 与 K3.1 Pro Highspeed,3T 级开源权重模型支持 100 万 token 上下文

Kimi K3.1 Pro and K3.1 Pro Highspeed

AI 导读

Kimi 发布 K3.1 Pro 和 K3.1 Pro Highspeed,前者是 K3.1 系列首个模型,也是其迄今最强的 3T 级开源权重模型,上下文窗口 100 万 token,Highspeed 版本速度提升 2-3 倍。

借鉴点

可借鉴其大规模联合 RL 的分层优化思路(RL 框架、长上下文推理、沙箱、rollout 调度),以及训练阶段剔除网络安全数据来压制攻击能力的做法;前提是自建训练栈,代价是工程量大。

来源:Hacker News · 首页 · kimi.ai