AI算力不靠堆卡,浪潮信息如何破局?

AI算力不靠堆卡,浪潮信息如何破局?

AI 资讯 来源:新闻/公众号 发布时间:2026-09-22 10:45:10 预计阅读 6 分钟

AI算力的竞争,多年来就一个字——堆。堆卡、堆机柜、堆发电机,似乎计算卡足够多、集群足够大,就能站在食物链顶端。但算力「够不够用」已不再能单靠堆卡解决,它开始分化出越来越多的层面。

第一个问题关于智能上限,即算力能撑起多强的智能。前沿模型的参数规模、上下文长度、推理深度同时变大,Agent可能连续运行几小时甚至几天。模型装不装得下、跑得快不快、长时间稳不稳,都需重新考量。另一个问题是智能规模——算力能以多低成本生产多少智能?Token需求爆发,推理负载多元,Prefill和Decode计算特征不同,堆同一种算力已覆盖不了差异。两个问题各自独立又相互关联,只解决一个无法突破全部瓶颈。

AICC 2026上,IDC发布《2026年中国人工智能计算力发展评估报告》,把这两个方向拆开讲了一遍。

AI算力之争不靠堆卡!浪潮信息捅破智算「能力天花板」,还瓦解了「产能焦虑」

Agent大爆发后,AI对算力需求正发生质变。过去算力调用像「脉冲式」,一问一答只调用一次。Agent接管任务后,一个人类意图可能触发几十次、几百次连续推理;多Agent协作网络让系统连续运转时长增至几小时甚至几天。原本短暂的算力请求变成持续计算负载,给基础设施带来新压力。

这种长流压力可拆解出三个影响因子:任务执行次数,IDC报告显示到2030年全球每年AI推理任务将增长4000万亿次;单任务Token消耗量,过去简单问答只消耗几十个Token,现在多轮任务决策要消耗几十万个;多智能体协同的「放大系数」,一个用户操作被拆解成多条Agent指令,Agent间传递上下文、汇总结果拉长任务链路,进一步放大前两项增长。三个因子以乘法叠加,将算力需求增长曲线拉到前所未有的高位。IDC数据显示,今年到2030年全球Token消耗量复合增长率将达4822.6%。

但算力供给增长速度滞后于需求变化。IDC报告显示,全球AI算力需求满足率从2024年的79%一路下滑,2027年预计跌至71%,即便此后上游半导体供应链压力缓解,到2030年也只能恢复到77%左右。到2030年,算力缺口绝对值将达3809亿美元,扩大到2024年的近十倍。

AI算力之争不靠堆卡!浪潮信息捅破智算「能力天花板」,还瓦解了「产能焦虑」

过去弥补缺口主要靠「大力出奇迹」,即通过集群规模扩展堆叠更多算力。但Agent时代推理负载种类繁多,对算力设施要求不尽相同。Prefill阶段是高并行、高计算密度任务,Decode阶段逐Token串行处理、更吃内存带宽,Attention需频繁访问不断增长的KV Cache,MoE包含稀疏计算和大规模路由调度,多模态模型还有独立Encoder模块。这些负载各有计算特征,还会随上下文长度、输出长度和并发规模动态变化。Agent任务中,首轮对话上下文可能只有一两万Token,经上百轮对话后扩展到三四十万,系统瓶颈在计算、显存、带宽和通信间不断转移。单纯堆料非但带不来线性容量增长,反而造成资源配比失衡,一部分算力长期闲置,另一部分持续过载。

实际上,缺口包含两个方向:一是能力上限,前沿模型参数规模、上下文长度、推理深度同时变大,一台机器装不装得下、跑不跑得快、长时间能不能跑稳,三个问题同时压来;二是产能,Token需求爆发,但负载类型各异,不同推理阶段需要不同特征算力,靠一种算力一招鲜吃遍天的路数已走不通。

浪潮信息首席AI战略官刘军把这两个方向概括为Capability和Capacity。Capability AI Compute是能力型智算,支撑前沿模型去碰过去碰不了的问题。如今AI已能从靶点出发发现新药物分子、完成筛选设计并推进临床试验,能求解困扰学术界几十年的NS方程和孪生素数猜想,能自主设计AI芯片并不断迭代性能。这些任务共同特征是推理链条长、模型规模大、对算力系统承载能力和稳定性要求极高。Capacity AI Compute是容量型智算,让智能供给更充足也更便宜,让更多人和企业用得起。

AI算力之争不靠堆卡!浪潮信息捅破智算「能力天花板」,还瓦解了「产能焦虑」

面对这两层问题,浪潮信息在AICC2026上发布两款产品——超节点AI服务器「元脑SD200 Ultra」和多元算力机组「元脑HC2000」。

SD200 Ultra解决前沿模型装不下、跑不快、跑不稳的问题。「装得下」是从0到1的一步,它延续去年SD200的3D Hyper Mesh架构,整机内芯片数量从64颗增至128颗,显存和扩展存储提升到8TB和64TB。目前全球最大开源模型Kimi K3有2.8万亿参数,SD200 Ultra可单机装下并高效运行,还支持单机部署10万亿参数模型。

128颗芯片协同工作,跨芯片数据交换每秒高达数十万次,传统方式依赖软件调用和缓冲区中转,延迟开销大。SD200 Ultra分两层解决:第一层「统一寻址」,通过全局统一编址、虚拟影子设备注册和跨域地址翻译,让128颗芯片显存形成统一地址空间,远端资源访问从消息通信加数据搬移变成地址空间内直接访问;第二层「对称直连」,通过对称内存技术实现GPU显存直连,GPU可像访问本地显存一样直接读写远端GPU显存,由GPU发起通信,跳过地址转换和封包中转,通信路径大幅缩短。最终All to All通信时延缩短到0.69微秒,达国际主流超节点产品相当水平。

计算也需优化。以

标签: AI 资讯 AI

更多推荐阅读

AI短剧门槛降降降!实测即梦短剧工作室:剧本分镜预演一条龙,伙伴计划长期护航

AI短剧门槛降降降!实测即梦短剧工作室:剧本分镜预演一条龙,伙伴计划长期护航

最近追《The Accident》有点上头,也注意到精品短剧不少,比如《被裁掉的女孩》《丧尸清道夫》。随着AI视频模型能力增强,更多创作者想讲长故事,但做连续剧集面临一致性、资产管理等痛点,精力容易被流程性工作占用。我用即梦短剧工作室拍了一部美高短剧。该工作室把剧本、资产库和分镜串在同一项目里,可从一句话灵感开始,也能拿小说或已有剧本接着做。据即梦方面介绍,实际是即梦整合了小云雀的短剧agent能...

2026-11-07 19:59:22
梁圣做空Anthropic

梁圣做空Anthropic

AI行业超高估值建立在Tokenmaxxing和Benchmaxxing两个支柱上。Tokenmaxxing指无脑使用顶尖大模型(尤其是Claude最新模型),营造不给员工配无限量API就是落伍公司的氛围。但这一模式不可持续,API调用成本连全球最大公司都难以承担。该风潮今年上半年只流行两三个月,随后中美互联网大厂纷纷限额、削减额度。要求所有公司借高利贷给Anthropic充钱并不现实。缺乏宗教式...

2026-11-07 19:59:10
独家丨自然选择完成 A+ 轮融资,要靠社交网络参与 Personal Agent 竞赛

独家丨自然选择完成 A+ 轮融资,要靠社交网络参与 Personal Agent 竞赛

《晚点 AI》独家获悉,AI 陪伴产品 EVE 与 AI 社交产品 Elys 的母公司自然选择已完成 A+ 轮融资,累计融资金额超 1 亿美元,新一轮投资方包括五源资本、启明创投、源码律动、经纬创投和华业天成。 自然选择由张筱帆于 2024 年创立,他曾创办游戏公司终极幻境并推出恋爱手游《奇点时代》。公司目前超过 100 人,核心产品 Elys 团队仅十余人。 2026 年春节前后,Elys ...

2026-11-07 19:58:59
Gemini 正在成为美国师生「不得不用」的 AI

Gemini 正在成为美国师生「不得不用」的 AI

Google宣布,从明年初开始,K-12教育账户中的AI工具将默认关闭,学校管理员可自行决定是否为学生启用Gemini等功能。但附带条款规定“搜索和AI是深度融合的”,不能二选一。这意味着一旦学校选择屏蔽AI,学生将连Google搜索也一并失去,屏幕上只会显示学校提示,说明服务暂不可用。 许多学区管理者因此陷入两难:一边是家长和教师对AI在校园扩张的忧虑,另一边是放弃搜索引擎的不可承受之重。Go...

2026-11-07 19:58:57
一夜变天!奥特曼刚改名「Ram」,芯片股全崩 AI 基建踩刹车

一夜变天!奥特曼刚改名「Ram」,芯片股全崩 AI 基建踩刹车

11月4日,OpenAI CEO Sam Altman在X上短暂将显示名称改为“Ram Altman”。起因是他在播客中提出,个人电脑中大量DRAM仅有约5%的时间被使用,从资源利用率看,将计算资源集中到云端数据中心统一调度效率可能更高。此番言论引发网友吐槽,马斯克也发布恶搞图片并配文“人民也有权拥有自己的RAM”。 但随后出现重大反转:民主党赢得美国众议院和参议院多数席位后,计划出台史上最严格...

2026-11-07 19:57:27
DeepSeek带火稀疏计算,国产芯片公司加速突围:这家公司又融近10亿

DeepSeek带火稀疏计算,国产芯片公司加速突围:这家公司又融近10亿

近日,墨芯人工智能完成近10亿元人民币C+轮融资。距上一轮近10亿元融资仅过去5个月,短时间内连续完成两轮融资,反映出资本市场对其在专用稀疏推理芯片领域技术壁垒与商业化进展的高度认可。 当前,大模型技术架构持续演进,推动稀疏计算从辅助优化手段走向AI算力设计的重要位置。随着混合专家(MoE)架构加速应用,大模型推理呈现明显的条件计算特征。以DeepSeek-V4-Pro为例,其总参数约1.6万亿...

2026-11-07 19:54:42
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部