跳转到主要内容
支持。缓存相关参数原样传给上游,响应里的缓存命中字段原样返回,命中缓存的输入按模型与价格总表中的「缓存读」价格计费。总表中缓存读一栏为「—」的模型没有缓存价,全部按普通输入价计费。 具体哪个模型有缓存价、价格多少,以总表为准。上表中的厂商都不需要额外开启缓存。写入缓存另外计费的只有 Claude 和 GPT-6、GPT-6.1、GPT-6.2、GPT-5.6 系列,其他模型没有写入费。

GPT-6、GPT-6.1 与 GPT-5.6 的缓存写入费用

这三个系列的缓存同样分写入和读取两步计费,倍率与 OpenAI 官方价格相同:
  • 写入:第一次缓存一段前缀时,这部分 token 按输入单价的 1.25 倍计费。调用日志显示为「未命中(创建缓存)」。
  • 读取:之后的请求命中这段前缀,按总表中的缓存读价格计费,日志显示为命中缓存。
价格单位为美元 / 1M tokens,均为 272K 以内的档位。缓存是自动的,前缀不少于 1024 tokens 就会写入,不能关闭。每次内容都不同的请求(例如每次换一张图片)通常都是写入、不会命中;同一段前缀反复使用时,命中部分只按输入价的约 1/10 计费,总体更省。GPT-5.5 及更早的 OpenAI 模型没有写入费。 gpt-6.2-astra、gpt-6.2-sol 于 2026 年 11 月 18 日上线,缓存读取、写入单价见 GPT-6.2 上线公告;是否命中缓存,以响应的 usage 字段和调用日志为准。

Claude 的缓存写入费用

Claude 模型的缓存分写入和读取两步计费:
  • 写入:第一次缓存一段前缀时,这部分 token 按输入单价的 1.25 倍计费,与 Anthropic 官方的倍率相同。例如 claude-sonnet-5-5 输入为 $2/1M tokens,写入为 $2.5/1M tokens。
  • 读取:之后的请求命中这段前缀,按总表中的缓存读价格计费。
  • 有效期:默认 5 分钟,5 分钟内没有请求用到这段前缀就会失效,下次要重新写入。
请求里的 cache_control 用来标记缓存位置,Claude Code 会自动带上。不带 cache_control 时,较长的固定前缀通常也会被缓存,所以长提示词的第一次请求可能出现写入费用。同一段前缀在 5 分钟内会再次用到时,缓存才划算。

怎样提高命中率

缓存按前缀匹配:两次请求开头的内容完全一样,这部分才可能命中。组织请求时:
  • 把系统提示词、工具定义、长文档等不变的内容放在最前面;
  • 把用户问题、时间戳、随机 ID 等每次都变的内容放在最后;
  • 多轮对话只在末尾追加新消息,不改动前面的历史;
  • 同一业务固定使用同一个模型,缓存按模型隔离,换模型不共享。
OpenAI 模型还可以传 prompt_cache_key,让同一类请求更集中地命中,用法见 OpenAI 提示词缓存文档。

确认是否命中

看响应 usage 中的缓存字段,大于 0 就是命中了: GPT-6 系列写入缓存的 token 数在 usage.prompt_tokens_details.cache_write_tokens。Claude 写入缓存的 token 数在 usage.cache_creation_input_tokens,通过 Chat Completions 调用 Claude 时,命中数同样在 usage.prompt_tokens_details.cached_tokens。 命中的部分按缓存读价格计算,其余输入按普通输入价,完整算法见看懂日志里的扣费。实际扣费以调用日志为准。

注意事项

  • Gemini 的隐式缓存命中率不稳定,命中行为由上游决定。做成本预算时按无缓存价估算,命中算额外节省。
  • Grok 的上游不保证每次命中,同样按无缓存价估算。
  • 前缀太短不会触发缓存,OpenAI 的门槛是 1024 tokens,其他厂商的门槛见各自文档。
  • 长上下文场景命中缓存后,实际扣费可能远低于按 prompt_tokens 全价估算的金额,这是正常的。

常见问题

需要在请求里打开缓存吗?

上表中的厂商都不需要,缓存会自动处理。Claude 还可以用 cache_control 指定缓存位置。 老张API不改写这些请求,也不另加缓存费用。Claude 和 GPT-6、GPT-6.1、GPT-6.2、GPT-5.6 的写入按输入单价的 1.25 倍计费,与官方一致,见 GPT-6 的缓存写入费用和 Claude 的缓存写入费用。Gemini、DeepSeek、Grok、Kimi 和更早的 OpenAI 模型没有写入费。

日志里的「未命中(创建缓存)」是什么意思?

这次请求的输入是第一次出现,系统把它写入了缓存,所以没有命中。GPT-6、GPT-6.1、GPT-6.2、GPT-5.6 和 Claude 模型写入的部分按输入单价的 1.25 倍计费。几分钟内再发开头相同的内容,就会显示命中,命中部分按缓存读价格计费。

为什么同样的请求,第二次反而没命中?

上游缓存会在一段时间不用后失效(Claude 默认为 5 分钟),高峰期也可能被提前清除,前缀里有任何一个字符变化也不会命中。检查请求开头是否混入了时间戳、随机内容或顺序变化的工具定义。

相关文档