跳到正文
掘金· 罗西的思考·· 11 天前AI 评分62

罗西的思考用 Gradio 做 KIMI K3 KDA 模块交互式演示

【轻量化复刻大模型 / KIMI K3】KDA 模块交互式演示

AI 导读

罗西的思考发布 KIMI K3 中 KDA(Kimi Delta Attention)模块的 Gradio 交互式演示,全 CPU 运行、无需 GPU,用 15 个 Tab 覆盖 ShortConv、SiTU-GLU、KDA 递推与分块并行、有界衰减、KCP 前缀扫描和 3:1 KDA/MLA 调度。

来源:掘金 · juejin.cn