跳到正文
MarkTechPost· Jean-marc Mommessin·· 26 天前AI 评分58

Inception 发布扩散语言模型 Mercury 3,速度 1,068 tokens/s、上下文 1M

Inception Releases Mercury 3 Diffusion LLM at 1,068 Tokens per Second

AI 导读

Inception 发布扩散语言模型 Mercury 3,官方称在 NVIDIA GPU 上达到 1,068 tokens/s,上下文窗口 1M,采用并行精炼而非逐 token 生成。

来源:MarkTechPost · marktechpost.com