跳到正文
雷峰网·· 11 天前AI 评分38

严骏驰团队在 CNCC 2026 介绍 JTok 与 xHC 两条 Transformer 架构改进思路

Transformer 架构还能咋改?严骏驰团队提供两条思路 | CNCC 2026

AI 导读

上海交通大学严骏驰团队在 CNCC 2026 报告 JTok 与 xHC 两项 Transformer 架构改进:JTok 为每个 token 配置可学习参数表,通过查表和逐元素运算调制前馈网络更新,在 MoE 实验中同算力下损失降低约 2.2%,达到同等损失所需训练算力约为底座的 65%。

来源:雷峰网 · leiphone.com