Apple Machine Learning·· 2026-10-14AI 评分22
Apple 首次从零预训练三模态掩码扩散模型,系统研究多模态扩展规律
The Design Space of Tri-Modal Masked Diffusion Models
AI 导读
Apple 研究者首次从零预训练三模态掩码扩散模型(MDM),训练数据涵盖文本、图文和音频-文本。团队系统分析了多模态扩展规律、模态混合比例、噪声调度与批大小影响,并提出基于 SDE 的重参数化方法,使物理批大小与逻辑批大小解耦、无需再调最优批大小。初步模型在 3B 规模(6.4T tokens)下于文本生成、T2I 和 T2S 任务均取得强劲结果。
来源:Apple Machine Learning · machinelearning.apple.com