智谱AI智能体两周让10万卡集群吞吐暴涨200%

RSI的最小闭环已经出现。智谱创始人兼首席科学家唐杰在X平台发表长文，首次曝出智谱在递归自我改进（RSI）领域的最新成果：在超过10万卡国产芯片组成的集群上，由GLM-5.3驱动的Infra Agent参与搭建了支撑GLM-5.3 Flash研发的生产级推理服务，仅用不到两周就完成从模型适配到生产可用的进化，将端到端吞吐提升至初始基线的3倍。唐杰认为，虽然距离递归式自我改进还很遥远，但最小闭环已经存在：模型优化系统，系统服务于模型。

RSI是AI自我进化的前沿探索，也是智谱未来研发的重要方向。9月13日，智谱宣布完成约50亿美元融资，约60%将用于下一代GLM基础模型和完全自训练体系研发，以及大规模训练、生产推理、算力资源和相关技术基础设施的部署与升级，最终逐步形成RSI。智谱认为，若这一趋势延续，给足算力与时间，终点是一个能够完全自主设计并训练出自己继任者的系统。同时，智谱去年已启动安全能力增强研究，合作伙伴用GLM在真实代码库中发现数千个漏洞，并设置受信访问计划，确保能力被负责任地使用。

GLM-5.3-Flash的上线经历了从让模型在新硬件上运行，到构建稳定承载生产流量的高性能推理服务的完整过程。此前没人成功部署过如此大规模的国产卡集群，面临芯片内存容量和带宽受限、需支持1M上下文窗口和多模态请求、生态不成熟、算子不完备等挑战。最终完成这项工作的不是一支团队，而是GLM-5.3驱动的Infra Agent。GLM-5.3-Flash以匿名模型Ox-Alpha在OpenCode与OpenRouter上接受真实调用检验，上线一周成为双平台调用量最大的模型，6天token调用量超过62万亿。

团队实施了一系列激进的内存优化，包括以算力换带宽、以通信换显存等定制化方案。技术栈融合了针对线性注意力和LM Head的节点内张量并行、ReplaySSM、W8A8量化、INT8/FP8/BF16混合精度缓存量化，以及Layer Split等，并引入Encode–Prefill–Decode（EPD）分离式架构，实现端到端服务性能约3倍提升，硬件利用效率与单Token成本均达到主流NVIDIA GPU的相当水平。

智谱认识到，决定Infra Agent工程效果的不仅是模型自身的代码生成与推理能力，更取决于系统能否持续提供有效、可归因的反馈。代码库只能提供静态上下文，而推理系统中的精度异常、性能退化往往来自算子实现、并行策略、通信行为、内存管理与服务调度等多个层面的动态交互。端到端指标只能告诉Agent“结果变差了”，却无法解释“为什么变差”。因此需要将稀疏的端到端结果转化为细粒度、可归因且能直接指导下一步行动的工程反馈。

为此，智谱将正确性测试、运行日志、执行Trace、运行时事件、微基准测试和端到端指标纳入Agent迭代流程，把系统优化过程拆分为可局部观测和验证的环节，称为“稠密反馈”。其强调三个特征：反馈足够局部，能关联到具体引擎启动参数、代码、算子、输入条件等；反馈能低成本、及时获得，缩短验证周期；反馈支持客观验证，通过控制变量对照实验确认根因。局部验证用于尽早排除错误修改，端到端测试确认局部收益能否转化为真实服务收益。

GLM-5.3 Flash的上线过程形成了由工程师、Infra Agent和实验环境共同组成的优化闭环：工程师定义目标与系统边界，Agent负责分析、假设和修改，实验环境提供分层、及时且可验证的反馈。这一演进既包含直接推动吞吐增长的性能优化，也包含决定系统能否正确稳定上线的缺陷修复。例如，在算子验证过程中，团队发现了KDA算子上下文并行路径的精度问题，CP与非CP结果之间的偏差使检查重点落到并行执行引入的状态传播与合并计算上。