跳到正文
掘金· miofly·· 24 天前AI 评分62

DeepSeek 开源内部推理框架 DeepInfer,支持英伟达与昇腾双平台

DeepSeek开源推理框架DeepInfer,支持英伟达昇腾双平台

AI 导读

DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,目前支撑 DeepSeek-V4.1-Flash 的高吞吐低延迟推理。

来源:掘金 · juejin.cn