Question 1

「命中缓存」是什么意思？

Accepted Answer

可以把每次发给模型的 整段输入 想成一本书： - 第一次：厂商从头到尾读一遍，按 正常输入价 收费，并在自家服务器记住前面读过的章节。 - 第二次：如果 前面章节一字不差，厂商只读 新加的几页；前面复用的部分按 更便宜的缓存输入价 收费。 「命中缓存」= 厂商发现「这段输入我上回算过了，直接复用」。 SupaNexus 不存你的对话、也不自建 Prompt Cache；缓存与判命中由模型服务商完成。SupaNexus 读取响应中的用量数字，并按平台配置的 三档单价 计费。 相关：计费与余额 · Chat Completions — 用量

Question 2

价格在哪里看？三档是什么意思？

Accepted Answer

若运营已为模型配置 缓存输入价，模型广场 → 模型详情 → 定价信息 会显示： 若 `缓存输入` 价未配置或为 0，表示 未启用分档，全部输入仍按「输入」价计费（不是免费）。 OpenAPI `GET /v1/models` 不含售价；定价以模型广场为准，详见 模型定价。 相关：模型定价

Question 3

SupaNexus 如何对缓存命中计费？

Accepted Answer

单次请求费用（简化）： SupaNexus 从响应 `usage` 中读取缓存命中数，例如： - OpenAI：`usage.prompt_tokens_details.cached_tokens` - Anthropic：`usage.cache_read_input_tokens` 账单总金额仍是一条结算金额；用量明细中会记录 `cached_input_tokens`（若部署已启用该字段）。 相关：用量、账单与通知

Question 4

我的 App 怎样才能真正命中缓存、省钱？

Accepted Answer

SupaNexus 只负责 读数字、算钱、展示；能否命中取决于 App 如何拼请求 与 厂商规则： 1. 多轮对话：前面的 system、长文档、历史消息 保持不动，只在 `messages` 末尾追加新消息。 2. 长前缀放最前：固定 system prompt、RAG 文档放在 messages 前部且内容稳定。 3. 稳定的 user 标识：OpenAI 请求带稳定的 `user` 字段，有助于提高缓存命中率。 4. Anthropic：需在请求中对要缓存的 block 加 `cache_control`（见 Messages）。 前缀须 byte 级一致（多一个空格都可能不算命中）。

Question 5

和 402、429 有关系吗？

Accepted Answer

- 402：可用余额不足，与是否命中缓存无关。 - 429：花费上限或限流触顶。 命中缓存只会影响 单次调用的 token 单价，不会绕过余额或配额检查。 相关：计费与余额 — 402 与 429

缓存输入与 Prompt Cache 定价