GPT-6缓存升级省78.5%,你的账单为何没打折?
把一堆资料交给AI写报告、核对出处、做成PPT时,每追加一次要求,应用都可能再次把原始材料、任务说明和聊天历史交给模型。若旧内容未命中缓存,就需重新处理,反复消耗计算费用与等待时间。这正是OpenAI近期升级瞄准的问题。

9月22日,OpenAI公布GPT-6提示缓存升级,提高默认缓存命中率,并提供更细的监测、诊断和控制手段。按官方费率,同一段材料连续使用10次,若首次写入后后续9次全部命中缓存,仅这段重复输入成本理论上可省78.5%。命中缓存的输入,读取价格只有普通输入的十分之一。

提示缓存保存的是模型阅读文字时计算出的中间状态,即KV状态,可理解为上次解题留下的“计算草稿”。下一轮对话只要开头未变,AI无需重算,直接复用。但缓存不等于记忆,AI仍需生成新回答,只是省去重读旧资料的劳动;复用必须精确匹配,两次请求前半部分完全一致,即“共享前缀”,包括聊天文字、系统指令、工具定义及图片、文档、音频等上下文。GPT-5.6及之后模型,触发缓存的共享前缀至少需1024个可见输入token。缓存最近一次写入或使用后至少保留30分钟,期间再次调用会刷新保鲜期。但同一聊天窗口不保证100%命中,请求分配到不同服务器或区域,缓存仍可能失效。

整体账单不能直接除以十,因为首次写入缓存需付“开房费”。GPT-5.6及之后模型,首次写入价格为普通输入的1.25倍,后续命中读取为0.1倍。连续使用10次,原本支付10份钱;采用缓存,首次写入1.25份,后续9次共0.9份,合计2.15份,省78.5%。但该降幅仅覆盖被重复使用的旧材料,新提问、AI输出及其他计算仍按正常价格计费。若材料写入后只用一次,反而承担更高首次成本。能否省钱,关键看复用率。
缓存依赖精确匹配,开头稍有变化即失效。例如应用每次把当前精准时间写在提示词最开头,后面资料虽未改,整个前缀也无法匹配旧缓存。黄金法则是:固定不变的内容往前放,经常变化的内容追加在后面。OpenAI还推出显式断点,标记缓存边界;稳定工具定义,避免改名或调整参数顺序,不需某工具时用控制参数隐藏而非删除;慎重调整思考力度,直接修改全局推理强度会破坏前缀复用,对话内部增量调整则可保住缓存。
此次升级补齐了监测与诊断能力。缓存看板可拆解输入数据:多少来自缓存、多少需重新处理、命中率何时下滑。诊断工具能自动对比当前请求与历史响应,找出哪个工具改名、哪条设置变化,甚至估算损失多少可复用Token。官方示例显示,仅一个工具名称微小变动,就导致5629个Token无法命中缓存。另一改进是“预热”,应用启动时先把已知系统指令、工具说明或背景资料写入缓存,用户提问时首字响应大幅提升。预热写入仍按1.25倍计费,但把计算搬到等待之前。目前Manus的OpenAI模型缓存命中率从约85%提升并稳定在90%以上;GitHub Copilot在数万亿次请求中,需重复处理的提示Token占比下降超50%,首字响应明显变快。
用AI是否更便宜要分情况:开发者通过API按量付费,优化会直观体现在账单和用量报表;普通用户使用按月订阅产品,中间隔着商业定价。此次更新并非ChatGPT降价公告,底层成本下降可能变成更便宜订阅费、更充裕额度,或支持更复杂功能。当AI从简单问答迈向连续干活数小时,竞争已从单次调用模型能力延伸到对底层计算资源的精细化运营。模型标价可能相同,但如何组织请求、最大化利用读过的材料,决定谁能交付高性价比服务。最值得期待的是,省下的计算成本有多少会真正变成用户手中的实惠。
更多推荐阅读

高中辍学生创AI独角兽,估值2370亿要IPO
对Nscale来说,真正的考验可能才刚刚开始。近日,这家成立仅两年多的AI基础设施公司递交了上市申请,计划登陆纽约证券交易所,股票代码“NSCL”,总部位于伦敦。据《金融时报》,本次IPO目标估值最高约350亿美元。今年3月,Nscale刚完成20亿美元C轮融资,当时估值为146亿美元。 2026年上半年,Nscale实现营收1.406亿美元,同比增长1252%;但同期净亏损10.2亿美元。到8...
2026-09-24
商汤前骨干AI创业再获2亿融资,宁德时代曾押注
据知情人士透露,上海AI能源科技公司达卯科技已完成约2亿元新一轮融资,具体投资方及估值暂未披露。这是其近一年内第二笔亿元级融资。此前,达卯科技在2022年A轮融资中获商汤科技、涌铧投资等支持;2025年9月完成近亿元A+轮融资,由宁德时代旗下溥泉资本领投;2026年7月,固德威进入其股东阵容。目前股东还包括宁德时代、商汤科技、寒武纪等产业链企业,其中寒武纪并非直接股东。 达卯科技成立于2021年...
2026-09-24
千问办公首款桌面机器人Eva实测曝光
今年云栖大会首次将主会场从云栖小镇迁至杭州国际博览中心,展览面积超5万平方米,联合超1000家企业参展,去年为500多家。主会场算力提升3倍,真武V900芯片将于2027年Q1上线,下一代Qwen4已投入训练,参数规模将扩展至5到10万亿。 下午参加千问办公分论坛,发现其推出两款硬件产品:QwenNote A2和QwenNote A2 Eva。A2是轻薄随身助理智能设备,Eva是桌面AI Age...
2026-09-24
前Scale AI产品负责人创立AI医保经纪Corridor,获2500万美元融资
Jackson Wagner于2022年7月离开Scale AI产品负责人一职后,如今正在AI健康福利领域创业。他创办的Corridor是一家AI健康福利经纪公司,专注服务中小企业。传统经纪公司往往忽视这类小型客户,因为小额账户佣金较低,但耗费时间与大客户相同。 Corridor押注AI解决方案能解决这一问题。在其平台上,客户与人工顾问合作,AI Agent在后台处理行政事务,如核实医生是否在保...
2026-09-24
AI视频告别炫技,虎鲸文娱押注下一代基础设施
AI生成逼真视频已不再新鲜,这种新鲜感的消退源于AI视频供给和消费的快速规模化。DataEye报告显示,2026年国内AI剧/漫剧市场规模同比增长138%,前5个月即达220亿元。 更深层的变化是,观众不再关心视频是否由AI生成,而更关心内容本身是否优质。虎鲸文娱分析发现,2025年第四季度用户讨论集中在“提示词”“技术”“真假”,到2026年第二季度则转向“剧情”“故事”“男主”“女主”。“一...
2026-09-24
AI互动公司Flam获4000万美元B轮融资
据9月18日官方消息,AI互动内容公司Flam完成4000万美元B轮融资,由QED Investors领投,宝莱坞巨星沙鲁克·汗参与跟投。资金将用于AI模型研发、产品矩阵扩展及海外销售团队建设。 截图来自Flam官网 Flam由印度创业者创立,总部位于美国,在印度和日本设有团队,旗下有三款企业互动产品:Flicks(播放中切换人物、产品、场景的互动视频)、Airboards(摄像头界面的3D内...
2026-09-24