MarkTechPost· Asif Razzaq·· 24 天前AI 评分34
Liquid AI 发布 RIPL:面向亚 50 ms 延迟 LFM 的实时推理引擎
Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs
AI 导读
Liquid AI 发布实时推理引擎 RIPL,可在实时请求路径中服务 LFM2.5 系列模型(230M 至 2.6B 参数),端到端生成响应低于 50 ms。
来源:MarkTechPost · marktechpost.com