微软将 MAI-Code-1.1-Flash 量化后接入 Copilot 本地运行
热点事件历史事件
微软将 MAI-Code-1.1-Flash 量化后接入 Copilot 本地运行
1 篇报道1 个报道来源11 天前更新
先了解这件事
AI 综述
微软把 137.9B 参数的 MoE 模型 MAI-Code-1.1-Flash 通过混合精度量化，从 16-bit 的约 276GB 压到 53.0GiB（3.31 bpw），另有 46.1GiB（2.87 bpw）版本。53.0GiB 检查点已通过 Microsoft Foundry 发布，并作为 GitHub Copilot 的本地模型在 RTX Spark PC 上运行。 相关性能对比是在 RTX Spark（128GB 统一内存、64GB GPU 分配）上，用同一 Q2-XS 目标模型单独运行及搭配 DFlash2 草稿模型，覆盖 1K 至 120K token 六种输入长度测得；报道称这些数字仅适用于该特定配置，不应推广到其他服务条件。
AI 根据报道生成 · 11 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- Hacker News · AI 讨论微软在 RTX Spark 上把 MAI-Code-1.1-Flash 压到 53GB 并接入 GitHub Copilot 本地运行
微软把 137.9B 参数的 MoE 模型 MAI-Code-1.1-Flash 通过混合精度量化从 16-bit 的约 276GB 压到 53.0GiB（3.31 bpw），另有 46.1GiB（2.87 bpw）版本，已通过 Microsoft Foundry 发布并作为 GitHub Copilot 的本地模型在 RTX Spark PC 上运行。