跳到正文
掘金· Elasticsearch·· 24 天前AI 评分30

Elastic 借 NVIDIA RTX PRO 6000 将 Jina 模型推理提速最高 8 倍

Elastic 计划利用 NVIDIA RTX GPU 将 Jina 模型推理速度提升至 8 倍

AI 导读

Elastic 正将 Jina API 与 Elastic Inference Service 上的 Jina 模型从 NVIDIA L4 迁移至 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU,已迁移模型的最慢嵌入请求处理速度最高提升至原来的 8 倍。

来源:掘金 · juejin.cn