跳到正文
掘金· 老纪的技术唠嗑局·· 25 天前AI 评分52

GPT-6 提示词缓存解读:命中率 83% 到 91%、推理费用降 36% 的账怎么算

GPT-6 发布“Better prompt cache”,提示词缓存,带来了什么?

AI 导读

OpenAI 9 月 22 日发布《Better prompt caching for GPT-6》,文中给出调整缓存断点后命中率从 83% 提升到 91%、推理费用下降 36% 的数字。

来源:掘金 · juejin.cn