22亿Agent将上线，AI计算底座如何接住洪流？

进入2026年，Agent成为大热赛道。海外SaaS巨头Salesforce上线了一批“即用型”长周期智能体，可跨天跨周持续跟进销售机会、多渠道自主处理客服问题。国内外的办公、生活Agent产品也如雨后春笋般涌出。用户看到的是“一句话就能把复杂工作交给Agent”的便利，产业看到的却是账单。

IDC报告显示，2025年全球活跃Agent数量为2860万个，预计2026年达7940万个，2030年将增长到22.16亿个。Agent每一次规划、推理、工具调用，最终都要落到芯片、存算、互连、系统、框架、Infra共同支撑的计算体系上。不久前Kimi K3发布48小时内因算力逼近极限，月之暗面暂停新用户订阅，便是例证。

Agent和模型能力飞速进化，背后计算体系有四个痛点越来越棘手：Token消耗巨大，算力成本与稳定性风险；芯片架构追不上Agent负载变化；芯片多元后软件如何协同、系统能力如何扩展；Agent进入生产系统，稳定供给和可靠运行没有标准答案。

据Gartner 2026年3月报告，一个Agent工作流每任务消耗的Token量是标准聊天机器人的5到30倍，单次用户请求通常触发10到20次顺序模型调用。高盛预测，到2030年全球Token消耗量将较2026年增长24倍，达每月约120000万亿Token。

更底层的问题是模型本身越来越大。以Kimi K3为例，总参数量2.8T、激活参数量104B，权重文件约1.56TB，普通AI服务器GPU显存连权重都装不下，官方推荐扩展到64卡甚至更大规模。即使装得下，对显存带宽与节点间通信要求也极高。K3每执行一次前向计算，仅HBM带宽需求就高达约1.5TB；896个专家需分布到多卡上，每次前向传播触发超过120次All-to-All通信。若互连带宽和延迟跟不上，大量算力会被浪费在等待数据搬运上。此外，K3采用混合注意力架构，需专门算子与缓存管理，未经优化的超节点系统初始性能可能仅10 tokens/s左右。

万亿参数模型正让传统AI算力系统遭遇瓶颈。问题不只是芯片算力够不够，更在于模型能不能放下、数据能不能高效搬运、多芯片能不能协同。Agent负载变长、并发增加、时延累积，传统芯片架构面临“存储墙”“功耗墙”与制程瓶颈。冯·诺依曼架构下存储与计算分离，数据来回搬运，功耗和时间大量消耗在搬运路上，而Agent负载对此格外敏感。

芯片架构正从单一走向多元——存算一体、Chiplet、3D集成，每条路线都在试图接住Agent带来的复杂负载。但不同芯片有各自软件栈和生态，应用迁移适配成本居高不下。硬件路线越来越多，软件如何协同、不同芯片怎样形成可扩展系统能力，成为决定Agent能否规模化落地的产业问题。

Agent也“打”入企业内部，需持续在线、稳定执行。据网易有道LobsterAI报告，办公Agent单次任务规模5个月内增长3.1倍，8月环比增幅达53%。但对其算力评价仍停留在算力规模和单点性能，尚未走向系统能力、计算效率与应用价值。

2026年9月21日，AICC2026人工智能计算大会将在北京中关村国际创新中心举行，设置1个主会场、7个分会场，近60场专题报告。来自芯片、存算、互连、系统、框架、Infra、模型等领域的专家，将共同探讨“当Agent从一次调用走向持续任务链，下一代AI究竟需要怎样的计算体系”。大会将发布IDC与浪潮信息联合编写的《2026中国人工智能计算力发展评估报告》，这是业内首份Agent基础设施算力研究报告，并揭晓2026年度中国AI算力城市最新排名。一套覆盖“芯片—框架—模型—应用”的AI测评体系也将同期亮相，填补国内AI第三方评测空白。

智能体正从技术创新走向产业实践，计算体系随之从后台支撑变为决定AI能否规模化、可持续、可负担的关键变量。产业需要的不仅是某一层的单点突破，而是芯片、系统、软件、应用之间更紧密的协同演进，以及开放、多元、可验证的产业生态。