跳到正文
Hacker News · AI 讨论· samber·· 23 天前AI 评分64

llm-d 发布 v1.0.0,统一全组件版本并加入多租户流控与 DisaggregatedSet

LLM-d v1.0.0 is out

AI 导读

llm-d 发布 v1.0.0,把组织内各组件版本统一到 v1.0.0,并引入多租户服务质量与零停机运维两项主要能力。

来源:Hacker News · AI 讨论 · github.com