跳到正文
Hacker News · 首页· ggcr·· 26 天前AI 评分60

DeepSeek 开源大规模推理框架 DeepInfer,支持 V4.1-Flash

DeepInfer: High-performance, large-scale inference framework for DeepSeek models

AI 导读

DeepSeek 开源了支撑其大规模生产服务的高性能推理框架 DeepInfer,当前支持 DeepSeek-V4.1-Flash 的离线推理。

来源:Hacker News · 首页 · github.com