AI AI Club
← 返回文章列表

GPT-6 Astra API 成本拆解:105 万上下文、缓存与 Fast、Batch 模式怎么算钱

GPT-6 Astra 于 2026 年 9 月 3 日发布,API 模型 ID 为 gpt-6-astra。开发者最容易算错的不是单价,而是把缓存、长上下文和加速模式混在一起。本文用一个可复核的案例拆开各项费用。

一、先把三个结论记住

GPT-6 Astra 于 2026 年 9 月 3 日发布,API 模型 ID 为 gpt-6-astra。开发者最容易算错的不是单价,而是把缓存、长上下文和加速模式混在一起。

普通短上下文调用方面,标准价是输入每百万 token 10 美元、输出每百万 token 50 美元,缓存命中输入按每百万 1 美元计。

长文档任务方面,输入超过 272K token 后,公开价格页列出的长上下文档位为输入 20 美元、输出 75 美元每百万 token。先切分文档,通常比盲目开启长上下文更省。

批处理和实时任务方面,Batch 与 Flex 适合不着急的离线任务,Fast 适合对交互延迟敏感的任务。前者按公开说明约为标准价的 50%,后者约为 2 倍,最终以控制台账单为准。

二、完整单价表

输入 token 标准价每百万 10 美元,对应新内容、未命中缓存的场景。缓存输入每百万 1 美元,对应相同前缀被复用且命中缓存的情况。Cache write 每百万 12.5 美元,对应首次写入可复用前缀。

输出 token 每百万 50 美元,对应模型生成的内容。长上下文输入超过 272K 时每百万 20 美元,长上下文输出每百万 75 美元,对应长上下文请求的生成部分。

长上下文、Fast、Batch 与 Flex 的费率可能随区域和计费策略调整,生产环境应以 OpenAI 控制台为最终账单。

三、算一笔能复核的账

假设一个代码审查服务每天处理 20 个仓库,每个仓库产生 200K 输入 token,模型输出 20K token,按 30 天计算。

月输入是 20 乘 200K 乘 30,等于 1.2 亿 token。月输出是 20 乘 20K 乘 30,等于 1200 万 token。输入成本 120 乘 10 等于 1200 美元,输出成本 12 乘 50 等于 600 美元,合计每月 1800 美元,还没算重试和工具调用。

这是标准短上下文、未命中缓存的上限估算。如果每个仓库都带相同的系统提示和依赖清单,可以把稳定前缀放进缓存。假设其中 80% 输入命中缓存:未命中部分是 1.2 亿乘 20% 乘 10 等于 240 美元,命中部分是 1.2 亿乘 80% 乘 1 等于 96 美元,输出仍为 600 美元,新合计约 936 美元一个月。

缓存能不能命中,取决于前缀是否真正相同、缓存保留策略和 SDK 实现。不要把发送过相似文本当作必然命中。

四、105 万上下文不等于免费装下整本资料

GPT-6 Astra 的上下文窗口是 105 万 token,最大输出为 12.8 万 token。窗口变大解决的是能不能放进去,而不是放进去后一定更便宜。

单次请求塞入 600K token,按长上下文输入每百万 20 美元计算,光输入就是 12 美元;再生成 20K token,输出约 1.5 美元。同样的内容如果能先做检索、只送 120K token,输入约 1.2 美元。差距来自上下文长度,不来自模型名称。

比较稳的做法是三段式。先用检索或目录定位相关文件,把稳定的规则和接口定义放在可缓存前缀,只有需要跨文件推理时才把上下文扩到 272K 以上。

五、Fast 和 Batch 怎么选

Fast 用在用户正在等待答案、IDE 里需要即时补全的场景,公开说明是按标准价加速计费,约为 2 倍。

Batch 和 Flex 用在夜间跑评测、批量生成文本、迁移旧代码的场景,公开说明是标准价的约 50%,但不保证交互级延迟。

标准模式则适合不确定负载特征时先用一周,记录 P50 与 P95 延迟、缓存命中率和每次任务的 token 消耗,再决定是否切换。

不要把 Fast 当成更聪明的模型,它改变的是排队和速度。也不要把 Batch 当成无限折扣,它牺牲的是时效性。

六、接入前的成本控制清单

记录 request_id、input_tokens、cached_tokens 和 output_tokens。按任务类型拆分预算,区分交互、批处理和重试。把稳定前缀放前面、动态内容放后面。单次请求设置 max_output_tokens,避免失控输出。先用 1% 流量灰度,确认账单字段后再扩大。

每次请求至少保留四个指标:输入 token、缓存输入 token、输出 token、端到端耗时。只有总美元数,没有这四个分项,很难定位账单突然上涨的原因。

七、哪些情况不适合直接上 Astra

小规模脚本、低频问答和能接受排队的离线任务,不一定需要旗舰模型。可以先用更便宜的模型做路由,再把复杂请求交给 Astra。

对数据不能离开本地的场景,先确认日志、保留期和企业协议。成本低不代表合规风险低。

联系我们

会员开通、订单问题或合作咨询,欢迎联系。

QQ1192214187
邮箱winky20000401@gmail.com