IBM Research 在 Hugging Face 博客介绍 Palette，用 IBM Design Language 的合成数据对 20B 开源权重模型做 LoRA 微调，让它按自有设计语言生成幻灯片。
可拿走设计者写 JSON brief、编码者按单页并行出 pptxgenjs 代码的两段式拆分，配几何检查器只保留有改进的重写；代价是要自建合成数据与渲染检查闭环，且小模型在叙事型 deck 上仍落后。
Polymathic AI、普林斯顿大学、USC ISI、NYU 和 Flatiron Institute 的研究者发布 FlashMap，用连续 flow map 替代离散扩散草稿器，一次前向传播草拟 16 个 token 的整块。
能拿走的是用连续 flow map 一次草拟 16 token 的投机解码方案，配 vLLM 和 SGLang 插件即可接入现有推理服务；代价是要按目标模型单独训练 0.5B drafter，且温度大于 0 时需改采样配置。
AWS 团队提出 Priming 方法，把预训练 Transformer 的权重作为混合架构的初始化，将混合架构的预训练成本降低 99% 以上，整个流程消耗不到源模型预训练 token 预算的 0.5%。
用预训练 Transformer 权重初始化混合架构，把预训练成本压到 0.5% 以下，可低成本对比 GKA、GDN、Mamba-2 与 SWA 的层替换方案；代价是仍需短蒸馏和端到端微调，且层选择依赖 SWA 替换代理实验。