硬核横评
硬核横评

缓存经济学:命中率如何决定 agentic 真实账单

2026-09-01 Fable 5.1 把 cache read 单价从 $1 降至 $0.25/M(降幅 75%),社群欢呼"agent 更便宜",但账单是单价乘以 token 结构:cache read 占比越低,降幅落到总成本越有限。本文拆 token 为四类(fresh input / cache write / cache read / output),给成本公式,按四种负载档位做敏感性分析——占比 10% 仅省约 7.5%、33% 约 25%、60% 约 45%(基于官方降幅的推演,非实测)。结论:单价只是第四位因素,命中率、布局稳定、轮次与输出长度更关键;六个工程前提把命中率做上去(前缀不变、布局稳定、turn-scoped 指令、服务端裁剪历史、按频率选 TTL、命中率可观测)。跨厂商横向套用须按官网 2026-09-02 快照填六维向量。

发布于 2026年9月1日10 分钟阅读
<!-- agentic-cache-cost-comparison-review | review | 缓存经济学:命中率如何决定 agentic 真实账单 -->

2026 年 9 月 1 日,Anthropic 发布 Claude Fable 5.1,把 cache read 单价从每百万 token 1 美元降到 0.25 美元,降幅 75%。社群的第一反应是"agent 更便宜了",但这句话既可能对,也可能完全落空:降价降的是单价,而账单是单价乘以 token 结构。若 agent 循环里 cache read 只占账单的一小部分,75% 的降幅落到总成本上可能只有个位数;若占大头,同一份单价表能省出的钱远超直觉。

本文不比谁的输入单价便宜——站内已有若干单价与性价比横评,那不是本篇的问题。这里要算的是:在缓存优先的架构下,命中率如何决定你的 agentic 账单。方法是把 agent 调用的 token 拆成四类、给出成本公式、按负载分档做敏感性分析,最后倒推吃到红利的工程前提,以及什么情况下根本吃不到。

先声明口径。Anthropic 官方公布的整体成本下降约 25%、高度依赖 cache read 的 agentic 工作负载最高约 45%,均为官方基于 2026 年 8 月真实使用数据的测算口径,不是独立第三方实测,本文所有节省数字沿用该口径;本文自己的推演会标注"以下为基于官方公布降幅的推演,非实测账单"。除 Anthropic 外的厂商缓存定价本批没有逐家实测,本文不给具体数字,只做相对关系描述,请以各厂商官网 2026-09-02 快照为准


一、单价表的盲区:agentic 账单不是一条乘法

单价横评的隐含假设是"每百万输入多少钱"可以代表成本。这在单轮问答里勉强成立,在 agent 循环里会失效——原因不在价格,而在 token 的构成比例。

agent 循环里每一轮都要把此前已处理过的内容重新送进模型:仓库文件树、读过的代码、历史对话、工具返回的原始输出。这些对模型是已知信息,在 API 层面仍计入输入 token,缓存的作用就是让这部分不必按全价付费。于是有:轮次越多、上下文越长、每轮新内容越少,cache read 占比就越高。Fable 5.1 支持 1M 上下文,长上下文场景下 cache read 体量更大,占比被进一步放大。

两个团队用同一个模型,一个说便宜、一个说贵,通常不是谁算错,而是负载结构不同。判断降价有没有用,先看 token 结构。


二、token 构成拆解与成本公式

把输入 token 拆成三类,加上输出,一共四项:

token 类别计价典型来源在循环中的行为
fresh input(未命中缓存)基础输入价本轮新增指令、新读的文件、新工具输出随轮次累积,无法靠缓存压缩
cache write(写入缓存)写入价,高于基础输入价首次进入上下文的内容块只在首次出现时付一次
cache read(读取缓存)读取价,远低于基础输入价已在上下文中的稳定前缀每轮重付,轮次越多占比越高
output(输出)输出价回复、thinking 块、工具调用参数与轮次正相关

Fable 5.1 的具体计价为:输入 $10/M、输出 $50/M、cache read $0.25/M、5 分钟缓存写入 $12.50/M、1 小时缓存写入 $20.00/M,批量通道输入 $5.00/M、输出 $25.00/M。基础价与 Fable 5 持平,唯一变动是 cache read 由 $1/M 降至 $0.25/M。

公式如下,后面所有讨论都基于它:

text
单次调用成本(美元) =
    fresh_input / 1e6 × P_fresh
  + cache_write / 1e6 × P_write
  + cache_read  / 1e6 × P_read
  + output      / 1e6 × P_out

整轮任务成本 = 各轮成本之和
cache read 成本占比 = (cache_read × P_read) / 总成本

三个地方直觉容易出错。其一,写入比不写入贵:5 分钟档是基础输入价的 1.25 倍,1 小时档是 2 倍,缓存赚钱的前提是同一份前缀被读足够多次。其二,保活不免费:TTL 过期后要重新写入,低频任务可能每轮都在重写,等于用写入价替代读取价。其三,输出价是输入价的 5 倍:若每轮输出很长——比如官方记录的整文件重写倾向——输出会取代 cache read 成为第一大成本项,此时读取降价对总账的稀释作用有限。


三、四种负载档位的 token 结构

同一份单价表,在不同负载下会长出完全不同的账单。下表为定性分档,用于说明结构差异,不是实测数据,占比高低只描述相对排序,不对应具体百分比。

负载类型典型形态token 结构主次cache read 占比账单主要驱动
单轮问答1 轮,短上下文fresh input 与 output 主导低,接近零输入与输出长度
多轮对话数轮到十余轮,中等上下文cache read 上升,output 仍显著中低轮次乘上下文长度
长上下文 RAG少轮次,单次注入大量检索内容fresh input 与 cache read 并重每次注入的检索体量
高频 agentic 循环数十轮,上下文持续增长cache read 主导轮次乘以重读次数

关键分界线是"每轮新增内容除以已处理内容"这个比值。agent 循环的典型形态是每轮只新增一个工具返回或一段 diff,却要重读整个已建立的上下文。这个比值随轮次单调下降,cache read 占比随之上升。这就是为什么 agent 越长跑越贵,也是为什么 cache read 单价对 agentic 负载的杠杆远大于对单轮问答。


四、敏感性分析:75% 的降幅能换来多少

在 token 结构不变的假设下,总成本降幅约等于 cache read 占账单比例乘以 75%。以下为基于官方公布降幅的推演,非实测账单。

cache read 占账单比例单价降 75% 后的总成本降幅大致对应的负载
10%约 7.5%单轮问答、缓存几乎没用上的任务
20%约 15%短会话、命中率偏低的多轮对话
33%约 25%官方口径下的典型工作负载
45%约 34%中等强度的 agent 循环
60%约 45%官方口径下高度依赖 cache read 的 agentic 负载
70%约 52.5%极高命中率的长时程 agent

这张表是一把反向标尺:若你实测总降幅只有 10%,反推 cache read 占账单约 13%,说明瓶颈不在单价而在命中率。

用官方数字反推可以校准:整体降约 25% 对应 cache read 占账单约三分之一,agentic 最高降约 45% 对应约六成。两者互相印证同一结论——agentic 负载的账单里 cache read 确实占大头。但这两个百分比本身是官方测算口径,不是独立第三方实测。

还有三个会吃掉降幅的二阶效应:价格下降会改变行为,上下文更长、轮次更多、命中率优化不做了;为留住缓存你可能选更贵的长 TTL 档或加保活调用,写入成本上升;输出价不变,输出越长,读取侧省下的钱在总账里越被稀释。


五、为什么不把这张表横向套到其他厂商

本篇只核实了 Anthropic 一家。其他厂商的缓存定价本批没有逐家实测,请以各厂商官网 2026-09-02 快照为准。你只需按下表维度填一遍自己的数字,就能把第二节的公式套用到任何一家。

需要核实的维度为什么它决定命中率
cache read 相对基础输入价的折扣率决定 cache read 在账单里的权重
写入价相对基础输入价的溢价倍数决定读几次才能回本
TTL 档位与刷新机制决定低频任务是否每轮重写
最小可缓存前缀长度前缀过短直接不命中
计费粒度(自动缓存还是手动断点)自动与手动的命中率差别很大
缓存是否跨模型、跨会话共享换模型会击穿缓存

这也解释了为什么"单价便宜"和"账单便宜"经常脱钩:一个输入单价更低的模型,若缓存折扣率低、最小可缓存前缀长、TTL 短,在高频 agentic 负载下的实际账单完全可能高于单价更贵的对手。选型时把它当六维向量,而不是一个数字。

从定位上看,Opus 5(2026 年 7 月发布,官方称价格约为 Fable 5 的一半)处在更低输入单价一侧;GPT-5.6 Sol 以 Terminal-Bench 4.0 得分 37.3% 进入 agent 能力讨论;DeepSeek-V4-Pro、Kimi K3、Qwen3.8-Flash-Next、GLM-5.3-Flash 与 Gemini 3.7 Flash 各有自己的缓存体系。本文不比较它们的单价。本篇的问题是:在你选定的那个模型上,你的命中率是多少


六、四种典型的缓存失效触发

命中率不是模型给的,是自己写坏的。

触发动作影响范围后果规避方向
改 system prompt前缀整体失效全量按 fresh input 计费或重新写入稳定指令放 system,随轮次变化的走 turn-scoped 通道
改 tools 数组前缀整体失效同上工具定义一次性固定,动态内容不进工具描述
编辑历史轮次从编辑点起失效重读成本上升,Fable 5.1 上还可能报错历史裁剪交给服务端,不在客户端重排数组
换模型缓存与模型绑定,整体失效切换那一轮起全量重新计费把降级当成本事件,避免高低档频繁抖动
TTL 过期该前缀失效低频任务等于每轮重写按调用频率选 TTL 档位

前两条最常被轻视。为调优频繁改 system prompt,每次改动都让此前建立的缓存前缀全部失效;把运行时状态——当前时间、任务 ID——拼进 system prompt 更常见,这些内容每轮都变,等于把命中率锁死在零。规则只有一句:前缀里只放不变的东西,会变的一律放到尾部

第三条在 Fable 5.1 上有额外严重性。官方把"编辑历史轮次会使思考块失效"列为破坏性变更之一,且该检查对 2026 年 8 月 31 日及之后创建的账号强制生效。老账号上客户端重排历史只是悄悄击穿缓存,新账号上还会直接报错。Fable 5.1 把缓存纪律从省钱建议升级成了不遵守就报错。迁移细节见Claude Fable 5.1 API 破坏性变更迁移 SOP

第四条对有降级链路的系统尤其重要。缓存与具体模型绑定,一次降级切换不只是换模型,而是让整条前缀重新按全价计费。若系统因限流或超时频繁在模型间抖动,命中率会被反复清零。相关设计取舍留待后续单独成文。


七、把命中率做上去:六个工程前提

  1. 前缀不变性:按变化频率排序,system、tools、稳定历史、本轮新增,从前往后递增。会变的内容一旦进入前缀,会把它后面的全部内容一起拖下水。
  2. 布局稳定:不要在上下文中间插入内容。追加在尾部是安全的,插在中间会让插入点之后的整段前缀失效。
  3. 动态指令走 turn-scoped:随轮次变化的指令用 turn-scoped system messages 传,不重建 system,也不往 messages 里插 per-turn 提醒。
  4. 历史裁剪交给服务端:客户端重排 messages 既击穿缓存,又会在 Fable 5.1 新账号上触发报错。
  5. 按调用频率选 TTL:依据是同一前缀在 TTL 内会被读几次,不是越久越好。
  6. 命中率可观测:分别打点四类 token,把 cache read 占比当一级指标。没有这个数,前面所有讨论都是猜。

命中率建议同时看两个口径。token 口径是 cache_read / (cache_read + fresh_input + cache_write),反映机制工作得好不好;成本口径是 cache_read × P_read / 总成本,反映实际省了多少钱。由于 cache read 单价只有基础输入价的四十分之一,同样好看的 token 命中率在成本口径下未必好看。

最后是验证。降价有没有落到你的账单上,不能靠感觉便宜了。做法是切换前后各取一批代表性任务,固定任务集与轮次上限,比较单任务成本与四类 token 构成。任务集设计见自建 agent 评测:Harbor 资源指南,发布本身的变化见Claude Fable 5.1 与 Mythos 5.1 发布解读


八、结论:先测结构,再谈单价

  • 单价只是第四位的影响因素。 排序是命中率、布局稳定性、轮次与输出长度,最后才是单价。
  • 75% 的降幅能转化出多少,取决于 cache read 占你账单的比例。 三成对应约 25%,六成对应约 45%,两个锚点均来自官方测算口径。
  • 吃到红利的前提是工程纪律,不是换模型。 前缀不变、布局稳定、TTL 匹配频率、命中率可观测,缺一件,降价就只是纸面数字。
  • 最容易被忽略的是根本吃不到的情况。 system prompt 塞动态内容、每轮重建 tools、客户端重排历史、频繁跨模型抖动,都会让命中率归零。
  • 别指望一次切换就看到变化。 把四类 token 打点接上,跑两批固定任务集,用数据说话。

参考来源

  • Anthropic 官方公告与定价页(Claude Fable 5.1,2026-09-01 发布)——输入 $10/M、输出 $50/M、cache read 由 $1/M 降至 $0.25/M(降幅 75%)、5 分钟缓存写入 $12.50/M、1 小时 $20.00/M、批量输入 $5.00/M 与输出 $25.00/M、上下文 1M token、最大输出 128K token。具体 URL 未确认。
  • Anthropic 官方成本测算(分析 2026 年 8 月真实使用数据,典型工作负载整体降约 25%,高度依赖 cache read 的 agentic 负载最高降约 45%)——官方测算口径,非独立第三方实测,本文所有节省数字沿用该口径。
  • 除 Anthropic 外各厂商的缓存定价(读取折扣率、写入溢价、TTL 档位、最小可缓存前缀、计费粒度)——本批未逐家核实,请以各厂商官网 2026-09-02 快照为准,本文不给出具体数字。
  • Fable 5.1 破坏性变更中"编辑历史轮次会使思考块失效"对 2026-08-31 及之后创建的账号强制生效——出自官方公告,URL 未确认。
  • Opus 5 价格约为 Fable 5 的一半、GPT-5.6 Sol 在 Terminal-Bench 4.0 得分为 37.3%——来自各发布方公开信息,仅用于定位。
  • 第三至五节表格为基于官方公布降幅的算术推演与定性分档,非实测账单;其余为工程建议,已在正文逐处标注。

常见问题

Q1:cache read 降价 75%,为什么我的账单没降多少? A1:因为降的是单价,账单是单价乘以 token 结构。只有 cache read 占大头时,75% 的降幅才能转化为可观的总成本下降。先用成本口径算一遍占比:占比 10% 只能换到约 7.5% 的总降幅。占比上不去,原因通常是命中率低而非单价高,此时优化前缀比换模型有效得多。

Q2:缓存命中率应该怎么定义和计算? A2:建议同时看两个口径。token 口径是 cache read 除以输入 token 总量,反映机制工作得好不好;成本口径是 cache read 的费用除以总费用,反映实际省了多少钱。由于 cache read 单价远低于基础输入价,同样的 token 命中率在成本口径下会明显更低。前者排查工程问题,后者与账单对账。

Q3:改 system prompt 真的会让缓存全部失效吗? A3:会。命中前提是前缀逐 token 完全一致,而 system prompt 是前缀第一段,改动一个字符其后所有内容都不再命中。最常见的错误是把当前时间、任务 ID、用户名这类每轮都变的内容拼进 system prompt,等于把命中率锁死在零。

Q4:5 分钟和 1 小时两档缓存该怎么选? A4:按同一前缀在 TTL 内会被读几次来选,不是越久越好。写入价高于基础输入价(Fable 5.1 上 5 分钟档 $12.50/M、1 小时档 $20.00/M),若一段前缀在 TTL 内只被读一次,你付的是写入价而非读取价,比不用缓存更贵。高频连续调用适合长 TTL。

Q5:多模型路由与降级会不会把缓存红利吃光? A5:会,而且比多数人以为的更彻底。缓存与具体模型绑定,一次切换就让整条前缀重新按全价计费。若系统因限流或超时在高低档模型间频繁抖动,命中率会被反复清零,此时 cache read 单价多低都与你无关。做法是把降级当成成本事件:给降级次数设阈值、抖动时加冷却、并为降级路径单独核算成本。

本文由 AI 辅助生成,经人工审核编辑。最后更新:2026-09-01

常见问题

cache read 降价 75%,为什么我的账单没降多少?
因为降的是单价,账单是单价乘以 token 结构。只有 cache read 占大头时,75% 的降幅才能转化为可观的总成本下降。先用成本口径算一遍占比:占比 10% 只能换到约 7.5% 的总降幅。占比上不去,原因通常是命中率低而非单价高,此时优化前缀比换模型有效得多。
缓存命中率应该怎么定义和计算?
建议同时看两个口径。token 口径是 cache read 除以输入 token 总量,反映机制工作得好不好;成本口径是 cache read 的费用除以总费用,反映实际省了多少钱。由于 cache read 单价远低于基础输入价,同样的 token 命中率在成本口径下会明显更低。前者排查工程问题,后者与账单对账。
改 system prompt 真的会让缓存全部失效吗?
会。命中前提是前缀逐 token 完全一致,而 system prompt 是前缀第一段,改动一个字符其后所有内容都不再命中。最常见的错误是把当前时间、任务 ID、用户名这类每轮都变的内容拼进 system prompt,等于把命中率锁死在零。
5 分钟和 1 小时两档缓存该怎么选?
按同一前缀在 TTL 内会被读几次来选,不是越久越好。写入价高于基础输入价(Fable 5.1 上 5 分钟档 $12.50/M、1 小时档 $20.00/M),若一段前缀在 TTL 内只被读一次,你付的是写入价而非读取价,比不用缓存更贵。高频连续调用适合长 TTL。
多模型路由与降级会不会把缓存红利吃光?
会,而且比多数人以为的更彻底。缓存与具体模型绑定,一次切换就让整条前缀重新按全价计费。若系统因限流或超时在高低档模型间频繁抖动,命中率会被反复清零,此时 cache read 单价多低都与你无关。做法是把降级当成成本事件:给降级次数设阈值、抖动时加冷却、并为降级路径单独核算成本。

相关文章

硬核横评

AI 编程工具免费额度横评:只算不花钱的账

本篇只算免费账、不比模型能力:横向对比 Qoder、Cursor、Trae、Windsurf、Claude Code、Codex 六家(取数 2026-09-18,均以官方定价页为准)的免费档内容与限制。核心发现:Trae 免费档账面最厚(1000 高级请求 + 5000 补全每月)、Cursor Hobby 给 2000 补全 + 50 慢速请求、Windsurf 每月 25 prompt credits + 每日 5 次 Cascade;Claude Code 与 Codex 无真正免费档,完整使用需 $20/月订阅。窗口期内 Qoder 的 Qwen3.8-Flash 限免 + 每日 100 Credits 是当前白嫖上限。文末按白嫖党、轻度、重度三类人群给组合策略,并提醒免费的真实成本:数据、锁定与窗口期后涨价。

2026年9月18日8 分钟阅读
硬核横评

自托管 AI 助手五方横评:形态与归属

本篇不比模型能力、只比"形态与归属":横向对比 Octop、Open WebUI、Dify、FastGPT、LibreChat 五方(星数均为 2026-09-17 GitHub API 快照)在定位分层、多用户能力、部署形态、开源许可、模型接入、数据归属六个维度的差异。核心发现:MIT(Octop/LibreChat)与自定义许可(Open WebUI/Dify/FastGPT)在商用与再分发上差别实在;"家庭/小团队每人独立记忆"的多用户隔离目前只有 Octop 以第一设计目标实现。文末按个人尝鲜、家庭共享、小团队、知识库应用、工作流编排五类人群给选型建议,企业引入前务必读各仓 LICENSE 原文。

2026年9月17日8 分钟阅读
硬核横评

实时视频生成模型横评:谁能边聊边改

本篇不比画质、只比"形态与归属":横向对比 Vidu S2、可灵 Kling、即梦 Jimeng、豆包 Seedance、Sora 2、HiDream-O1-Video 在实时交互与实时编辑能力、交付形态(网页/API/开源权重/商业产品)、开源闭源归属、适用场景上的差异。核心判断:选实时视频工具买的不是画质,而是工作流——能否边聊边改、改稿成本多高、产物归谁。文末给出按电商试穿、虚拟人直播、广告短片、个人玩票等场景的选型建议,并提醒实时画质与成本尚无第三方统一评测,别被"实时"营销词带节奏。

2026年9月17日10 分钟阅读