跳到正文
Together AI Blog·· 12 天前AI 评分34

Together AI 提出 Polymorphic Inference:面向开放模型的自调优推理

Polymorphic Inference: self-tuning inference for open models

AI 导读

Together AI 提出 Polymorphic Inference(多形态推理)研究议程,用 AI 智能体持续优化开放模型的推理性能,并通过 Continuous Compilation 与 Together Compiler 实现自调优。其背景是开放模型发布速度加快、架构日益多样、流量形态持续变化以及硬件迭代加速,例如 B200 到 GB300 的演进。

来源:Together AI Blog · together.ai