跳到正文
掘金· 一缕82年的清风·· 15 天前AI 评分58

推理单价降 90% 后企业 Agentic 账单反涨 3 到 5 倍,作者提出确定性状态机治理方案

算力平民化神话破产:当推理成本暴降 90%,为什么生产级 Agentic 架构反而更贵更脆弱了?

AI 导读

作者指出万亿 MoE 与小模型蒸馏让单百万 Tokens 调用价相比两年前降了 90% 以上,但企业每月模型 API 支出反而涨了 3 到 5 倍,线上还出现死循环重试、状态漂移和级联崩溃。

来源:掘金 · juejin.cn