Revolut 用自托管 GLM 替代 Claude,AI 编码推理成本降约 90%
英国金融科技公司 Revolut 称在不到一年内把 AI 编码推理成本削减约 90%,做法是把自托管模型设为默认,替代此前主要依赖的 Claude 等商业服务。
借鉴点
自托管 GLM 替代商业 API 的完整成本账,含 56 张 B200、NVFP4 量化、prefill/decode 分离和 256k 上下文取舍,可对照本地模型部署线估算自己的 token 单价与首字延迟门槛。
英国金融科技公司 Revolut 称在不到一年内把 AI 编码推理成本削减约 90%,做法是把自托管模型设为默认,替代此前主要依赖的 Claude 等商业服务。
自托管 GLM 替代商业 API 的完整成本账,含 56 张 B200、NVFP4 量化、prefill/decode 分离和 256k 上下文取舍,可对照本地模型部署线估算自己的 token 单价与首字延迟门槛。