华为灵衢破解算力瓶颈：10万卡利用率飙升15%

9月17日至19日，华为2026年全联接大会上，华为围绕灵衢互联架构及超节点集群推出昇腾960芯片、昇腾960超节点、OceanStor M900 AI记忆存储等AI基础设施新品，“灵衢”成为贯穿发布的关键词。

灵衢是华为算力底座的统一互联总线协议，将CPU、NPU、DPU、DDR、SSD等计算与存储单元统一互联，并贯穿单机、超节点和超大规模集群。传统互联下，十万卡集群实际算力使用率仅约20%。华为数据显示，基于灵衢的单集群可支持100万颗AI处理器，10万卡集群的模型浮点算力利用率从20%提升至35%。

AI Agent时代，通信正成为算力“胜负手”。模型参数从万亿级走向10万亿级，未来或达50万亿；上下文从几K级来到几M级。计算系统面临三大挑战：一是通信量平方级暴涨，典型MoE模型在10万卡集群上MFU不到20%；二是AI负载多样化，Prefill与Decode特征不同，需异构算力协同与内存池化；三是上下文变长带来存储压力，需构建HBM、DDR、SSD多级缓存，现有PCIe加RoCE网络难以满足时延与带宽需求。

灵衢的核心是用一套协议贯穿芯片到集群，统一内存语义，消除协议转换开销。其竞争力包括四方面：协议归一，互联带宽从百GB级提升到TB级，RTT时延从7微秒压缩至2微秒，降低约70%；多样算力异构协同，CPU、NPU、内存、SSD对等互联，灵活配比；分级存储全局池化，提高内存利用率；光电互联灵活组网，4096卡超节点需56个计算柜和14个灵衢互联柜，最长传输距离超200米，单超节点从1024卡扩展到4096卡，最终单集群支持100万颗AI处理器。

基于灵衢，华为构建了AI Agent超节点集群。昇腾960超节点单节点可实现4096卡规模，最大提供8 EFLOPS FP8算力、1PB HBM容量，系统可用度达99.8%，风冷和液冷版本将分别于2027年Q2和Q3上市。柜内灵衢交换刀片支持172T带宽，实现72个昇腾处理器和18个鲲鹏处理器互联；跨柜灵衢交换设备拥有176个端口，每端口1.6T，单机280T全光互联；UBG灵衢网络交换机拥有1024超大Radix扇出能力，支持百万卡集群。

鲲鹏950超节点计算刀片提供384个CPU核和6TB内存，单柜支持192TB内存，可实现超150万核统一调度、24000TB内存全局池化。昇腾960计算刀片支持8颗NPU，提供32 PFLOPS FP4算力、4.5TB统一内存、17.9TB/s灵衢互联带宽。OceanStor M900实现网络、CPU、盘控芯片“三芯合一”，单ASU模组64TB容量密度，单节点访问带宽480GB/s。三类硬件通过灵衢统一协议灵活配置，实现“1+1+1>3”。

中小场景方面，Atlas 650E可通过双机灵衢直连，让16个NPU进行Full-Mesh组网，无需交换机，支持万亿参数模型，推理吞吐提升40%以上，时延低至10毫秒，未来可平滑扩容。

生态方面，华为CANN全面开源开放，社区月活开发者已达5200多人。