国产AI存储刷新全球纪录，焱融全栈布局曝光

智东西9月17日报道，9月1日，MLCommons发布MLPerf Storage v3.0基准测试榜单。焱融全闪AI存储F9000X在多项测试中拿下第一，验证其在极限AI训练负载下对高速网络带宽的高效利用能力。

随着AI从模型训练走向规模化推理，存储需处理的数据和任务持续增加。训练阶段要持续向GPU供给海量数据，并快速保存和恢复模型Checkpoint；推理阶段需管理不断膨胀的KV Cache。单一高性能存储产品已难以覆盖AI全流程需求。焱融已构建覆盖训练与推理的全栈AI存储方案。本次MLPerf Storage v3.0新增KVCache测试用例，扩展了对AI全场景工作负载的覆盖能力。焱融近期推出的YRCache ContextBox一体机，面向AI推理场景的KV Cache存储产品，是其全栈能力在KV Cache管理、共享与复用方向的进一步落地。

大模型训练需持续从存储读取数据，GPU数量增加时，存储需同时服务更多计算节点，吞吐不足会导致GPU等待。训练还需定期写入Checkpoint，其读写性能直接影响模型保存和中断恢复耗时。F9000X面向大规模AI训练，测试环境包括3台存储节点和9台x86客户端服务器，通过NDR400网络互联。在3D U-Net模型训练测试中，F9000X三节点集群实现544GiB/s聚合带宽，位列第一，为历届公开测试最高水平，相比v2.0的478GiB/s进一步提升。在Checkpoint 70B测试中，实现539GiB/s读带宽和314GiB/s写带宽，读写均居第一，刷新历届公开成绩。更高带宽不仅能加快数据读写，也有望在同等训练需求下减少存储节点投入，降低硬件成本。

进入推理阶段，存储重点转向模型上下文管理与复用。长文本、多轮对话和Agent应用产生大量KV Cache，若无法保存复用，模型需反复计算相同上下文。焱融推出AI原生推理存储系统YRCache，统一管理不同层级KV Cache资源，并将部分缓存从GPU显存卸载至主机内存和本地SSD，减少重复计算。其多级缓存架构中，G1为GPU HBM，保存最活跃缓存；G2为主机DRAM，承接无法放入显存的缓存；G3为本地SSD，容量更大、成本更低；G4为传统共享分布式存储，承载模型、数据集和Checkpoint等长期数据。随着推理集群扩大，本地SSD与传统共享存储间出现能力空档。参考英伟达CMX架构对G3.5 Context Memory的设计，焱融引入G3.5共享缓存层，并推出YRCache ContextBox一体机，面向长上下文、多轮对话和Agent推理提供跨节点共享KV Cache空间。

YRCache ContextBox面向G3.5共享缓存层设计，将计算、网络、存储和软件协同，为推理集群提供独立共享KV Cache空间。焱融称，ContextBox单台实测带宽达120GB/s，可支持8个推理节点并发接入，缓存容量可扩展至PB级。它让不同推理节点共享已生成的KV Cache，请求即使被调度到另一台服务器也不必重新计算相同上下文；缓存不再受单台服务器显存、内存和SSD容量限制，可单独扩展，计算节点增减也不会丢失已保存缓存。在某头部AI企业测试中，8张NVIDIA H20-3e GPU运行SGLang和GLM-5.1，输入上下文31K至129K时，接入ContextBox后首Token时延降低89%至94%，Token吞吐提升3至6倍。ContextBox还兼容YRCache、LMCache、Mooncake等管理软件。

焱融已形成覆盖AI训练与推理的存储方案，以F9000X、YRCache和ContextBox为代表，覆盖训练数据读取、模型状态保存及KV Cache管理等关键环节。训练时F9000X提升数据和Checkpoint读写效率，减少GPU等待；推理时YRCache和ContextBox管理、共享并复用KV Cache，减少重复计算。对企业而言，价值不只是提升带宽或降低时延，更在于让现有算力基础设施承载更多训练任务和推理请求。焱融称，其单位性能硬件成本较行业市场平均水平降低约35%，Token效能提升120%。

当AI竞争进入规模化应用阶段，存储不再只是后台数据底座，而成为影响GPU利用率、推理效率和建设成本的关键基础设施。随着模型规模、上下文长度和并发请求继续增加，AI存储竞争将从单一峰值性能转向对不同数据、不同层级和不同使用周期的协同管理。