百度文心开源 ERNIE 5.5 Flash Base 基座模型，总参数 280B、每 token 激活 14B

百度文心发布并开源 ERNIE-5.5-Flash-Base，这是一个总参数 280B、每 token 激活 14B 的稀疏 MoE 语言模型，在 33.5T tokens 上从零完成预训练，最长训练上下文 128K，微调与推理支持 1M tokens 上下文。