端侧Agent提速5倍，扩散模型或两年内取代GPT

近日，扩散语言模型团队扩散智能DiffuSpace与亚洲智能体计算平台公司Acrab联合测试显示，在端侧场景中，dLLM可将Agent运行速度提升约5倍。双方计划加速推进该技术在AI PC、智能汽车、机器人及智能家居等场景落地。这一成果让扩散模型在端侧AI的潜力再次成为焦点。

扩散语言模型（dLLM）凭借“全局生成”特性，被视为下一代通用人工智能基础模型的重要方向，甚至被预测“或将在两年内替代GPT类自回归模型”。与GPT类模型“从左至右逐个Token生成”不同，dLLM借鉴图像扩散机制，先形成全局框架，再并行修正，可实现5至10倍推理加速。

端侧加速：从理论到实践

在端侧AI上，传统自回归模型每次仅生成一个Token，难以利用芯片并行算力；扩散模型则可同时处理多个位置，将并行计算能力转化为实际速度。Agent场景中，一次完整任务需多次调用模型，延迟会累加，5倍提速可显著缩短任务时间。以AI PC为例，本地Agent可并行推演多个相关步骤并实时调整。

关于端侧优势，DiffuSpace表示，端侧推理通常只服务本地用户，且对响应速度敏感，扩散模型的加速优势在此最为明显。速度优势来自同时生成多个Token，更贴近人类思考过程。以代码任务为例，扩散模型每步可生成7到10个Token，直接提升效率并降低成本。

技术底蕴与团队背景

扩散智能DiffuSpace由港大NLP实验室联合主管孔令鹏教授及博士生龚珊三、叶佳成创立，核心团队在dLLM的“条件生成、离散信号建模、Scaling”三大核心问题上均有全球领先突破。2022年团队推出DiffuSeq，开创扩散模型处理序列到序列文本生成路径；2025年推出的Dream 7B模型首次全面超越同参数规模自回归模型，规划能力比肩671B的DeepSeek V3。

在Agent体验上，扩散模型可根据用户修改自适应调整后续内容，保留有效部分，仅改写受影响内容，使模型更可编辑、灵活。长远看，扩散模型擅长全局搜索和多样性探索，可能提高找到正确解法的概率，减少陷入局部最优，对RSI研究和探索有利。

成本与挑战：产业化的现实考量

关于训练成本，DiffuSpace解释，扩散模型训练时需看到更多噪声和位置组合，可能需更多训练轮次，但推理阶段获得更高并行度。模型只训练一次却服务大量用户，整体划算。现阶段也可通过adaptation继承自回归模型参数，降低Scaling成本。

对于产业应用挑战，DiffuSpace承认模型、数据、算力、工程和生态各环节均有困难，如扩散语言模型的算子、推理系统和基础设施尚不完善。但进入该领域的人正在增多，开源项目涌现，生态将逐步完善。

关于替代时间，DiffuSpace认为，扩散语言模型获得资金投入和研究时间尚短，但已获越来越多关注。今年四季度将发布新款模型，明年计划将参数规模扩大一个数量级。未来一到两年内，扩散语言模型很有可能替代自回归模型，尽管这是激进目标，仍有很多工作需完成。

从端侧5倍提速到全局生成的可编辑性，扩散模型正以独特路径挑战自回归的统治地位。随着生态完善和算力适配，这场技术范式变革或许比预期来得更快。