指南OneMux

GPT 6.2 Astra API 文档问答成本估算

根据明确的 token 用量假设、上下文分档、缓存费率和可复核的计算方法,估算 GPT 6.2 Astra 文档问答成本。

AI

摘要 · TL;DR

本文为带来源引用的文档问答提供示例成本模型,涵盖官方与 OneMux token 价格、缓存成本效益,以及用实际观测用量替换假设的核对清单。

核心要点

  • 按每条回答使用 12,000 个输入 token 和 1,000 个输出 token 计算,Astra 的示例成本按所列官方费率为 $0.136,按 OneMux 快照费率为 $0.014144。
  • 以相同 token 用量生成 10,000 条回答,估算成本分别为 $1,360 和 $141.44,均不包括检索、数据导入、重试及其他费用。
  • 输入超过 272K token 的请求,其所列输入和输出费率更高;应单独估算,而不是使用统一的混合费率。
  • 缓存节省取决于实际符合条件的写入和读取、保留期限及计费方式,而不只是文档内容是否重复。
文章目录 (8)

对于需要标注来源的文档问答,预算不仅要考虑模型返回的回答,还要考虑发送给模型的证据。在一个示例工作负载中,每条回答使用 12,000 个输入 token 和 1,000 个输出 token;在计入检索及其他费用之前,GPT 6.2 Astra 的成本按所列官方费率为每条回答 $0.136,按 OneMux 快照费率为 $0.014144。

这是一种定价情景,并非实测结果。本文发布方 OneMux 也是价格比较中涉及的产品。实际成本取决于 token 用量、缓存资格、请求大小,以及运行工作负载时适用的费率。

使用的价格和计费单位

以下 OneMux 目录快照采集于 2026 年 11 月 18 日。所有价格均以美元计,单位为每 100 万个 token。公布的价格比率是 OneMux 价格除以所列官方价格,并非折扣百分比。对于表中价格,0.104 的比率在算术上对应 token 费率低 89.6%,但不保证整个工作负载的总成本也能节省相同比例。

输入上下文分档官方输入官方输出OneMux 输入OneMux 输出公布的价格比率
不超过 272K token$8$40$0.832$4.160.104
超过 272K token$16$60$1.664$6.240.104

所提供的 gateway 更新日志也列出了 Astra 的标准费率 $8/$40,以及输入超过 272K token 的提示词所适用的 $16/$60 费率。确定预算前,请核查服务提供商的当前条款和 OneMux 定价。分档按单个请求确定,因此估算时应将长上下文请求单独计算。不要认为上下文窗口大,就意味着发送整个文档集合是经济的。

估算一条带来源引用回答的成本

假设检索步骤选出相关文档片段,模型同时收到这些片段、问题和引用指令。本例采用以下假设:

  • 每个请求使用 12,000 个输入 token,包括问题、指令、文档摘录和来源标识符。
  • 每条响应使用 1,000 个计费输出 token,包括回答、引用和任何计费推理 token。gateway 来源资料指出,推理 token 按输出计费;如果它们已包含在输出总量中,不要重复计算。
  • 每个请求都属于不超过 272K 的分档。此基准情景不包含缓存读取或写入、重试或失败请求。
  • 该工作负载每月生成 10,000 条回答。这只是假设,并非流量预测。

分别计算每类 token:将 token 数量除以一百万,再乘以对应费率。

成本组成官方计算方式官方成本OneMux 计算方式OneMux 成本
每条回答的输入12,000 ÷ 1,000,000 × $8$0.09612,000 ÷ 1,000,000 × $0.832$0.009984
每条回答的输出1,000 ÷ 1,000,000 × $40$0.0401,000 ÷ 1,000,000 × $4.16$0.004160
每条回答合计$0.096 + $0.040$0.136$0.009984 + $0.004160$0.014144
10,000 条回答10,000 × $0.136$1,36010,000 × $0.014144$141.44

该估算仅包含模型 token。文档解析、嵌入、索引、检索、存储、应用托管、评估和任何计费重试均需另行计入。本文未提供这些项目的价格,但这不意味着它们为零。税费及其他适用费用也不包含在示例中。

如果请求输入超过 272K token,会怎样?

另举一个示例:某个请求包含 300,000 个输入 token 和 1,000 个输出 token。将所列超过 272K 分档的费率应用于这些用量,结果如下:

价格依据输入成本输出成本每条回答合计
官方300,000 ÷ 1,000,000 × $16 = $4.801,000 ÷ 1,000,000 × $60 = $0.06$4.86
OneMux300,000 ÷ 1,000,000 × $1.664 = $0.49921,000 ÷ 1,000,000 × $6.24 = $0.00624$0.50544

此情景假设较高分档适用于该请求中的所有输入和输出 token。请确认账户适用的计费规则。这与较短请求并非同等条件下的质量比较:提供给模型的证据不同。

计入缓存写入和读取

针对相同文档的重复提问可能会复用可缓存的提示词前缀,但内容重复本身并不代表一定命中缓存。目录列出了以下 Astra 缓存费率,单位为每百万个 token;写入列区分了所列的保留期限。

输入上下文分档官方缓存读取官方写入,30 分钟官方写入,12 小时OneMux 缓存读取OneMux 写入,30 分钟OneMux 写入,12 小时
不超过 272K$0.40$10$20$0.0416$1.04$2.08
超过 272K$0.80$20$40$0.0832$2.08$4.16

以一个标准分档的示例批次为例,假设 10,000 个 token 按 30 分钟缓存写入计费一次,随后在九个请求中按缓存读取计费。仅计算这部分共享内容,官方成本为写入 $0.10 加上九次读取 $0.036,合计 $0.136。对应的 OneMux 计算为 $0.0104 加 $0.003744,合计 $0.014144。如果不使用缓存,对同一段 10,000 token 内容按普通输入计费十次,官方成本为 $0.80,OneMux 成本为 $0.0832。

这只是按计费类别计算的示例,并不保证这十个请求都符合缓存条件。它假设缓存写入费率替代写入部分的普通输入费用,之后每次使用均按读取计费,且所有读取都发生在适用的保留期限内。请确认实际的资格、计费和保留规则。未缓存的输入和所有输出应另行计入;除非计费条款要求,否则不要将同一批 token 同时算作普通输入和缓存输入。

将估算转化为可审核的预算

  1. 定义成功回答。 要求引用稳定的文档标识符和能支持每项重要主张的段落。有引用的回答不一定有依据;应检查所引段落是否真正支持该回答。
  2. 测量有代表性的样本。 在数据可用时,记录输入、输出、缓存读取与写入、请求分档和计费成本。样本应包括长短不同的文档、无法回答的问题以及跨多个来源的问题。本文未进行付费评估。
  3. 跟踪每条合格回答的成本。 将包括重试和失败尝试在内的工作负载计费总成本,除以通过来源引用检查的回答数量。这样可以发现每请求平均值掩盖的成本。
  4. 调查异常值。 检索片段过大、重复指令、冗长引用和较长输出都可能增加 token 用量。检查片段被截断或重新排序时,来源标识符是否仍得到保留。
  5. 按分档和缓存类别重新计算。 将实际观测到的各类 token 总量乘以对应的当前费率,再加上非模型费用。无法获得的用量或价格应视为未知,而不是零。

何时考虑替代方案

如果使用更少的上下文或其他模型也能达到引用质量目标,在仅凭 token 价格作出选择之前,请先用自己的文档集测试。所提供的 gateway 更新日志称,GPT 6.2 Sol 和 Astra 在五次运行中都解决了一个小型速率限制器示例,其中 Sol 在该示例中的成本更低。该结果不能证明它们在文档问答中的相对准确率或每条合格回答的成本;没有相关评估,这些结果仍然未知。

制定初步预算时,可先使用基准计算,再用实际观测数据替换所有 token 用量和成功率假设。将长上下文流量和缓存流量分开计算,避免看似合理的平均值掩盖成本较高的请求组合。

来源

已公布的价格快照

采集于 2026-11-18T08:00:05.571Z,来源为 OneMux 公布的目录。价格保留网站的计费单位;这不是实时基准测试。分档、缓存或按时间计费的价格可能有所不同。未知值不等于零。

模型官方输入官方输出OneMux 输入OneMux 输出公布的价格比率
GPT 6.2 Astra$8$40$0.832$4.160.104

当前 OneMux 价格。只有在输入、输出及计费单位一致时,才应比较工作负载成本;分档条件请参阅各模型页面。

常见问题

GPT 6.2 Astra 每条文档问答的成本是多少?

在使用 12,000 个输入 token 和 1,000 个输出 token、不使用缓存并采用不超过 272K 分档的快照费率时,示例模型 token 成本按所列官方费率为 $0.136,按 OneMux 费率为 $0.014144。该成本不包括检索、数据导入、重试及其他费用。

引用有单独的 token 价格吗?

所提供的定价未列出单独的引用费用。引用指令和来源标识符计入输入 token,回答中生成的引用则计入输出 token。

重复使用文档一定能获得缓存优惠吗?

不一定。能否节省取决于重复内容是否符合缓存条件、计费的写入和读取类别、保留期限以及适用条款。应测量实际缓存用量,而不是假设每次重复都会命中缓存。

长上下文请求应如何编制预算?

对输入超过 272K token 的请求,应使用适用的较高分档费率单独估算。确认这些费率如何应用于整个请求,并计入任何缓存类别和输出 token。

相关文章