跳到正文
界面新闻 · 科技· jianli@jiemian.com(有连云)·· 19 天前AI 评分36

明略科技赵晨旭在2026 CSDI SUMMIT分享:用Scaling Out把3000B大模型塞进一台算力盒子

3000B大模型,如何塞进一台算力盒子?明略科技(2718.HK)赵晨旭出席2026 CSDI SUMMIT,分享大模型落地的“效率账”

AI 导读

明略科技集团副总裁赵晨旭在2026 CSDI SUMMIT发表演讲,介绍通过Scaling Out路径从开放权重模型中提取任务所需专家并重新组合,让3000B级模型在本地算力盒子上运行。其自研存算分离推理框架Mnemos将闲置专家参数存放于SSD、按需加载,路由优化使思维链长度缩短约21%。

来源:界面新闻 · 科技 · jiemian.com