阶跃星辰开源Step 5，华为1024卡超节点点亮

2026年10月15日，阶跃星辰正式开源新一代旗舰模型Step 5 Preview，在AI编程、软件工程、专业知识工作、金融等任务上达到前沿水平。昇腾基于vLLM推理引擎实现0Day支持，并围绕模型架构与硬件特性实现高效推理优化。同日，首套1024卡Atlas 950 SuperPoD液冷超节点点亮，为Step系列大模型提供算力服务，性能持平海外先进算力。

Step 5 Preview采用稀疏MoE架构，总参数量600B，每Token激活27B参数，支持1M Token上下文窗口和图像、视频多模态输入，在软件工程、Agent、专业工作和金融等方向取得有竞争力表现。模型采用全新Sparse Attention结构，先通过Indexer选择Token，再在选中范围内计算Self Attention；为解决Index计算瓶颈，以Region（8个Token）为单位压缩Indexer Key，兼顾效率与性能。

昇腾Atlas 950 SuperPoD液冷超节点基于灵衢高速互联架构与超节点技术体系打造，是业界规模最大的1024卡超节点产品，可提供1 EFLOPS FP8、2 EFLOPS FP4算力，适配万亿参数大模型推理。其具备256TB全局统一内存编址能力、NPU卡间TB级互联带宽、时延低至3μs，突破传统集群通信瓶颈，实现集群算力高效释放与稳定运行。

昇腾基于vLLM Ascend推理引擎，围绕Step 5 Preview架构与950超节点硬件特性协同构建推理优化方案，覆盖Ascend C与Triton融合算子、多流并行、计算空泡优化、MTP投机解码、NPU Graph图执行等，打通模型、算子与推理框架优化链路。

算子优化方面，针对稀疏注意力、模型连接结构与混合专家网络，结合CANN与Triton实现高效执行：IndexerLogits与SparseAttn Ascend C算子支持原生FP8计算，融合Token打分与TopK、Sort筛选，使用成对Region搬移提升带宽，借助Vector单元SIMD能力替代Scalar运算；Triton融合Kernel加速Norm、Indexer key压缩等关键算子，通过AutoTune自动寻优Tiling大小，使能SIMT能力；MoE专家路由优化围绕Hash TopK专家选择，优化路由前处理与精度传递，减少跨层重复操作；MXFP8量化通过重新量化权重为MXFP8格式，在精度几乎无损下发挥硬件算力。

通信优化方面，950超节点同时利用FullMesh+CLOS通信，最大化Allreduce、Allgather、ReduceScatter等通信原语性能；Dispatch Server级去重减少跨服务器重复传输，同一Token被多个专家选中且位于同一远端服务器时，先发送主副本再在服务器内分发；Combine通过双缓冲实现Reduce与通信回传重叠，两个输出缓冲区交替使用，减少归并与回传等待。

框架优化方面，MoE序列并行降低冗余计算和通信；Vector/Cube/通信多流并行通过多流调度组织计算与访存交叠，减少串行等待和计算空泡；NPU Graph图执行优化将解码阶段计算纳入图执行，结合持久化缓冲区和输出复用，减少重复调度、临时分配与数据拷贝；多Token预测优化与Tiling下沉适配MTP机制，消除主模型与草稿模型、每步推理间断流，减少Device空泡；Prefill Indexer Key压缩阶段Slot预分配将动态搜索改为预分配，消除层间冗余操作。

用户及开发者可访问vLLM Ascend链接获取Step 5 Preview昇腾量化版本推理部署指导。文中性能比例来自对应算子或局部链路的专项对比测试，实际收益随硬件配置与业务负载变化。