长会话模型选型实测：缓存命中率如何决定真实成本

作者在Agent长会话场景把默认模型换成输入便宜25%、输出便宜35%的flash版本，同一批4.94亿token的账单反而达到谷时方案的2.15倍。原因是缓存命中token占用量91.4%、费用73.6%，而该模型缓存单价贵10.7倍，按公式算出的临界缓存命中率为73.6%，实测91.4%已越过临界点。