国产万卡算力爆发，科大讯飞让AI反哺算力

最近几个月，国产 AI 算力开始密集跨过新的数量级。7 月，全国产十万卡 AI 超集群落成；9 月初，无锡国产万卡级智算中心一期 2000 张摩尔线程 MTT S5000 GPU 智算卡全部投入运行，集群算力需求基本达到满载；国产卡正进一步向万卡乃至十万卡级训练基础设施迈进。

集群规模越来越大，新问题也随之而来：这些芯片究竟能发挥出多少实际训练能力？大模型训练中，卡数增加会推高系统复杂度。单芯片算子效率差异放到数万块芯片上会被放大；小规模训练中不明显的通信等待，在万卡集群会变得可观；节点增加、周期拉长后，软硬件故障也更频繁。因此，评价算力系统除了看芯片数量和单卡性能，还要看算子、通信、并行调度、故障恢复及软件栈能否配合。

9 月 7 日，科大讯飞发布星火 X2.5。该模型采用 MoE 架构，参数规模 293B-A30B，重点提升代码和智能体能力，覆盖 200 余种语言，在语言理解、答题、推理等通用任务上保持优异效果。其中，万卡规模国产 910B 集群承担预训练和后训练，线上推理基于国产平台，并配合多步投机解码提升效率。随着代码和工具调用能力增强，星火 X2.5 也开始参与 NPU 算子优化，AI 开始反过来参与底层算力优化。

通过这次真实大模型训练，可进一步探讨万卡国产算力面临的工程问题：算子效率、长上下文处理、万卡通信、长周期训练稳定性，以及模型与底层算力之间的反馈关系。科大讯飞技术人员将万卡训练核心挑战概括为：算得快、装得下、传得顺、跑得稳。

算得快方面，团队围绕国产关键算子定向优化，Attention 计算算子效率相比基础实现提升 2 倍以上。针对长序列训练，星火 X2.5 采用结合动态负载均衡的长序列并行方案，长文本训练效率相对提升 30% 以上。

装得下方面，星火 X2.5 引入稀疏注意力机制和跨层共享稀疏注意力索引，减少长上下文带来的计算和资源开销。

传得顺方面，星火 X2.5 在通用通信优化外，针对超长序列引入通信压缩、分层通信和计算并行等方式，相关训练效率提升 10%。

跑得稳方面，星火 X2.5 结合国产芯片全域异常检测能力，基于数十万训练任务问题分析，实现任务配置训前校验、训中卡死自动检测、失败任务自动重提、历史固定报错节点自动剔除，以及故障时进程级快速恢复和取消任务时临终 checkpoint 保存，机器有效训练时长超过 97%。

星火 X2.5 重点提升代码和智能体能力。训练阶段，模型围绕数学、编程、智能体工具调用和指令遵循等任务开展大规模强化学习，并训练不同领域教师模型，再通过多教师在线策略蒸馏，将多个教师模型优势整合到统一发布模型中。测试覆盖 Terminal Bench、SWE Pro、SWE Verified、SWE Multilingual、NL2Repo 和 SciCode 等任务，关注终端操作、真实代码仓库修改、多语言软件工程和科学编程等场景。实际演示中，模型可根据自然语言需求生成完整网页，也能结合视觉识别与角色反馈，完成手势互动 Web 应用。这些案例表明，代码能力和智能体能力正在合流：模型理解任务及约束，拆解复杂目标，调用工具执行代码，并根据错误或运行结果持续修正。

当这一闭环迁移到底层软件领域，模型处理的问题会从“代码能否正确运行”延伸到“在保证正确性前提下，代码能否在真实硬件上跑得更快、更高效”。算子优化正是代表。为此，科大讯飞在无监督训练阶段基于 GitCode 优质昇腾算子仓库，构建包含 CANN 编程规范和典型高性能实现模式的训练语料；后训练阶段围绕真实开发场景构建大规模、可验证的算子效率优化任务，让模型在真实 NPU 环境中开发设计、性能剖测和迭代优化。当前实践中，任务目标、初始代码、硬件环境和评估脚本仍需预先设置，模型作用是在这些条件下进行多轮工具调用和方案探索，提高部分算子开发与优化环节的自动化程度。

DSA 细粒度稀疏注意力算子是一个具体例子。DSA 面向长上下文场景，通过集中计算关键部分减少计算量，但稀疏计算也带来更零散的数据访问，数据搬运效率成为新影响因素。在仅提供基础版 Ascend C 实现、任务描述和评估脚本的情况下，星火 X2.5 在昇腾 910B 设备上进行多轮自主优化。科大讯飞相关技术人员表示，模型通过约 1600 次工具调用探索不同性能方案，最终相比 torch_npu 实现获