跳到正文
Hacker News · AI 讨论· doomroot13·· 11 天前AI 评分64

微软在 RTX Spark 上把 MAI-Code-1.1-Flash 压到 53GB 并接入 GitHub Copilot 本地运行

Advancing the Quality-Efficiency Frontier for Coding AI on Windows PCs

AI 导读

微软把 137.9B 参数的 MoE 模型 MAI-Code-1.1-Flash 通过混合精度量化从 16-bit 的约 276GB 压到 53.0GiB(3.31 bpw),另有 46.1GiB(2.87 bpw)版本,已通过 Microsoft Foundry 发布并作为 GitHub Copilot 的本地模型在 RTX Spark PC 上运行。

来源:Hacker News · AI 讨论 · devblogs.microsoft.com