Hacker News · 首页· ggcr·· 26 天前AI 评分60
DeepSeek 开源大规模推理框架 DeepInfer,支持 V4.1-Flash
DeepInfer: High-performance, large-scale inference framework for DeepSeek models
AI 导读
DeepSeek 开源了支撑其大规模生产服务的高性能推理框架 DeepInfer,当前支持 DeepSeek-V4.1-Flash 的离线推理。
来源:Hacker News · 首页 · github.com