GPT-6缓存升级省78.5%,你的账单为何没打折?

GPT-6缓存升级省78.5%,你的账单为何没打折?

AI 资讯 来源:新闻/公众号 发布时间:2026-09-24 14:29:59 预计阅读 4 分钟

把一堆资料交给AI写报告、核对出处、做成PPT时,每追加一次要求,应用都可能再次把原始材料、任务说明和聊天历史交给模型。若旧内容未命中缓存,就需重新处理,反复消耗计算费用与等待时间。这正是OpenAI近期升级瞄准的问题。

GPT-6缓存输入最高省九成,你的账单为啥没打一折?

9月22日,OpenAI公布GPT-6提示缓存升级,提高默认缓存命中率,并提供更细的监测、诊断和控制手段。按官方费率,同一段材料连续使用10次,若首次写入后后续9次全部命中缓存,仅这段重复输入成本理论上可省78.5%。命中缓存的输入,读取价格只有普通输入的十分之一。

GPT-6缓存输入最高省九成,你的账单为啥没打一折?

提示缓存保存的是模型阅读文字时计算出的中间状态,即KV状态,可理解为上次解题留下的“计算草稿”。下一轮对话只要开头未变,AI无需重算,直接复用。但缓存不等于记忆,AI仍需生成新回答,只是省去重读旧资料的劳动;复用必须精确匹配,两次请求前半部分完全一致,即“共享前缀”,包括聊天文字、系统指令、工具定义及图片、文档、音频等上下文。GPT-5.6及之后模型,触发缓存的共享前缀至少需1024个可见输入token。缓存最近一次写入或使用后至少保留30分钟,期间再次调用会刷新保鲜期。但同一聊天窗口不保证100%命中,请求分配到不同服务器或区域,缓存仍可能失效。

GPT-6缓存输入最高省九成,你的账单为啥没打一折?

整体账单不能直接除以十,因为首次写入缓存需付“开房费”。GPT-5.6及之后模型,首次写入价格为普通输入的1.25倍,后续命中读取为0.1倍。连续使用10次,原本支付10份钱;采用缓存,首次写入1.25份,后续9次共0.9份,合计2.15份,省78.5%。但该降幅仅覆盖被重复使用的旧材料,新提问、AI输出及其他计算仍按正常价格计费。若材料写入后只用一次,反而承担更高首次成本。能否省钱,关键看复用率。

缓存依赖精确匹配,开头稍有变化即失效。例如应用每次把当前精准时间写在提示词最开头,后面资料虽未改,整个前缀也无法匹配旧缓存。黄金法则是:固定不变的内容往前放,经常变化的内容追加在后面。OpenAI还推出显式断点,标记缓存边界;稳定工具定义,避免改名或调整参数顺序,不需某工具时用控制参数隐藏而非删除;慎重调整思考力度,直接修改全局推理强度会破坏前缀复用,对话内部增量调整则可保住缓存。

此次升级补齐了监测与诊断能力。缓存看板可拆解输入数据:多少来自缓存、多少需重新处理、命中率何时下滑。诊断工具能自动对比当前请求与历史响应,找出哪个工具改名、哪条设置变化,甚至估算损失多少可复用Token。官方示例显示,仅一个工具名称微小变动,就导致5629个Token无法命中缓存。另一改进是“预热”,应用启动时先把已知系统指令、工具说明或背景资料写入缓存,用户提问时首字响应大幅提升。预热写入仍按1.25倍计费,但把计算搬到等待之前。目前Manus的OpenAI模型缓存命中率从约85%提升并稳定在90%以上;GitHub Copilot在数万亿次请求中,需重复处理的提示Token占比下降超50%,首字响应明显变快。

用AI是否更便宜要分情况:开发者通过API按量付费,优化会直观体现在账单和用量报表;普通用户使用按月订阅产品,中间隔着商业定价。此次更新并非ChatGPT降价公告,底层成本下降可能变成更便宜订阅费、更充裕额度,或支持更复杂功能。当AI从简单问答迈向连续干活数小时,竞争已从单次调用模型能力延伸到对底层计算资源的精细化运营。模型标价可能相同,但如何组织请求、最大化利用读过的材料,决定谁能交付高性价比服务。最值得期待的是,省下的计算成本有多少会真正变成用户手中的实惠。

标签: AI 资讯 AI

更多推荐阅读

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

过去几天,Claude Fable 5.2 再次抬高了我们对 AI 编程的想象。 Claude 工程主管 Felix Rieseberg 开发的游戏 Saltline 在 X 上大火,他只用一次初始提示、没有后续人工反馈,Fable 5.2 自己生成游戏模型、音效和贴图,最终呈现了一款紧张刺激的第一人称射击游戏。 图|体验🔗:https://claude.ai/artifact/BGY1Szt...

2026-11-21 19:57:34
谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

英伟达最近头疼的事儿可不止老黄那一件。 本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。 今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大—— 还是今年,谷歌破天荒开始对外销售TPU系统。 量子位从谷歌内部人士处获悉,谷歌内部信心十足,表示“明年TPU市场份额会快速上升”,...

2026-11-21 19:57:11
Claude 开始「整顿」会议室,建议国内大厂抄作业

Claude 开始「整顿」会议室,建议国内大厂抄作业

「拉个会对齐下颗粒度,叫上 Claude。」 打开 Google Meet 准备进会,参会者名单里出现了一个叫做 Claude 的头像。 会议主持人把 Claude 添加进通话,它以可见参与者的身份出现,同时在聊天窗口发布通知,明示自己正在加入。会议进行当中,它持续跟随对话,可以实时记录笔记、整理行动项、起草文件,或在白板上梳理结构与时间线。 团队成员可以在通话期间直接编辑它生成的内容,讨论...

2026-11-21 19:52:11
从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

游戏版抖音又添新玩家。 《小王子》又在网上火了一次。 这回是一位叫Sac的创作者照着书里的故事做了一款3D游戏。 小王子住过的星球变成了可以走动的地方,玩家能跟着故事穿过不同的场景,看看那些原本只能靠想象补全的画面。 该游戏视频发到社交媒体后吸引了接近400万次浏览。 这款作品的制作周期只有16天。Sac用Claude Opus 5.5参与代码和游戏搭建,借助Tripo生成3D模型,再用...

2026-11-20 20:00:00
全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

Suno,被超了?? 好家伙,AI音乐圈最近突然杀出了一匹中国黑马。 ACE Music v1,一个此前很多人可能都没听过的名字,首次登上全球权威AI评测机构Artificial Analysis(简称AA)的音乐人声榜,就把Suno最新旗舰模型v6挤到了第二。 榜单上,ACE Music v1拿下1160分,领先Suno v6整整16分。 要知道,自2023年AI音乐赛道兴起以来,Sun...

2026-11-20 19:59:59
「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

我们应该避免提到未经授权的基础设施。任务目标只有flag。 很难想到,这句听着像串供老手的话,竟然出现在一个AI智能体的推理记录里。 这是一场网络安全考试,AI进攻目标,拿到一串叫flag的暗号,就算答对。 写完开头那句内心独白,这个AI智能体利落地递上答卷,对自己的越权举动只字不提。 11月10日,OpenAI补充公开了一份内部复盘,揭开了7月19日一场失控测试的细节: 参与测试的5个...

2026-11-20 19:59:42
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部