掘金· 公众号_计算机魔术师·· 21 天前AI 评分58
信通院报告解读国内词元服务:TPS 翻倍至 78.23 但首词时延退到 1.26 秒,仍落后国外 44%
日均500万亿词元,国内推理速度翻倍却仍落后国外——差距卡在哪
AI 导读
中国信通院《大模型词元服务性能监测报告(2026 年)》显示,8 月国内模型 TPS 均值 78.23 个/秒,较 2025 年的 38.25 翻倍,但首词时延从 0.78 秒退到 1.26 秒,归一化均价从 6.8 元涨到 13.46 元。
来源:掘金 · juejin.cn