AWS Machine Learning Blog· Giuseppe Zappia·· 13 天前精选AI 评分64
AWS 用 SageMaker AI 上的序列级知识蒸馏把购物 Agent 蒸馏到 Qwen3.5-4B
Build efficient agents with knowledge distillation on Amazon SageMaker AI
AI 导读
AWS 在 SageMaker AI 上用序列级知识蒸馏（SeqKD）把 GLM-5.3 教师生成的购物 Agent 轨迹蒸馏进 Qwen3.5-4B，在 ShoppingBench 324 道留出题上平均绝对成功率从基座的 0.297 升到 0.541，追平教师和中等规模前沿模型。
借鉴点
能拿走一套完整做法，用前沿模型采样轨迹加程序化打分筛出解出的样本，按步编码成 chat 格式做 SFT，再把 LoRA adapter 挂到同一端点。落到软件工厂和本地模型部署两条线，前提是任务本身在 4B 容量内，且要接受 IFEval 掉 6 到 8 分。
来源：AWS Machine Learning Blog · aws.amazon.com