掘金· lucas_AI·· 15 天前AI 评分58
CMU 等提出统一训练框架，把预训练、SFT、RL 合并为同一损失函数
预训练、SFT、RL 是同一个算法？CMU 把大模型训练流水线拧成了一个「数据旋钮」
AI 导读
CMU、JHU 和 Aurora Innovation 的论文提出，预训练、midtraining、SFT、RL 在算法层面可统一为对模型自生成成功答案做最大似然拟合，所有阶段共享一个损失函数，设计问题只剩喂什么数据、按什么比例、什么时候喂。
来源：掘金 · juejin.cn