Amazon Science 用知识蒸馏加 Medusa 把旅行场景 LLM 推理提速 10 到 20 倍

Amazon Science 与 Booking.com 合作，把知识蒸馏和 Medusa 并行解码组合成一条流水线，让 1.1B 的 TinyLlama 学生模型达到 70B Llama-3.1 教师的质量，同时推理速度提升 10 到 20 倍、成本降到不足三分之一。