单机跑Kimi K3仅5.85毫秒,浪潮信息破解Agent算力难题

单机跑Kimi K3仅5.85毫秒,浪潮信息破解Agent算力难题

AI 资讯 来源:新闻/公众号 发布时间:2026-09-23 11:49:59 预计阅读 6 分钟

2026年,Agent火爆空前。IDC在AICC 2026大会上发布数据:2026年全球活跃Agent约7940万个,2030年将达22.16亿个;Token消耗量从0.026Peta增长到152667Peta。Agent数量增长约28倍,Token消耗增长数百万倍。

需求侧增长如此之快,算力供给能接住吗?今年两个案例十分典型:Kimi K3总参数量2.8万亿,权重文件1.56TB,普通AI服务器显存连权重都装不下,官方推荐至少64卡甚至更大规模才能运行,指向“向上”的困境——能力上限越高,部署门槛越从单机走向集群。DeepSeek上半年将V4-Pro的API价格下调75%,8月又预告整体提价,理由直指“算力不足”,指向“向广”的困境——性价比算力需求被迅速放大,容量不够,低价供给难以持续。

单机跑Kimi K3首破5.85毫秒,同等投资Token产能提升10倍!浪潮信息破局Agent算力难题

在AICC 2026大会上,浪潮信息给出回答:向上,Capability AI Compute;向广,Capacity AI Compute。会上正式发布元脑SD200 Ultra超节点AI服务器和元脑HC2000多元算力机组,通过系统协同,从提供算力走向生产智能。

超节点突破智能上限。Agent时代,一次用户意图背后可能是几十次、几百次甚至更多次推理,是多个Agent连续几小时甚至几天的协同工作。前沿模型Scaling up加速,Kimi K3参数量达2.8万亿,未来可能扩展到十万亿参数量级。简单堆服务器行不通,超节点的意义在于突破传统单机计算边界。元脑SD200 Ultra以开放系统设计紧耦合128芯本土AI芯片,实现统一内存寻址超低延迟通信,并以对称直连、算子优化等创新技术减少数据搬移与等待。基于这套系统,SD200 Ultra可单机运行2.8万亿参数的Kimi K3,Token生成时延首次突破5.85毫秒,还支持10万亿参数规模的前沿模型。其采用3D HyperMesh架构,提供8TB带宽和64TB内存;原生内存语义通信把跨芯片通信时延降低到0.69微秒;超级算子库体系将算子数量降低为原先的1/11,减少Kernel Launch次数和HBM访问开销,隐藏通信延迟。

单机跑Kimi K3首破5.85毫秒,同等投资Token产能提升10倍!浪潮信息破局Agent算力难题

让智能供给“供得上、供得便宜”。随着Agent数量和使用深度增加,Token需求继续快速增长,提高单位计算资源Token产出成为规模化供给关键。推理不是单一计算模式,Prefill和Decode计算特征不同,Attention和MoE对计算与访存要求不同,简单堆服务器不能带来线性能力增长。浪潮信息的答案是元脑HC2000多元算力机组,面向持续、大规模推理需求,基于DirectCom 2.0极速架构,以原生液冷高密整机柜为载体,按负载组织计算资源,实现多元算力协同。核心软件栈MCIS持续测量不同算力资源的能力与负载,根据任务需求动态分配算力并实时调整。硬件层面,HC2000采用全液冷设计和高通流供电,单柜供电能力达300千瓦以上,最大承载256张AI卡,算力密度实现4倍跃升。在国产算力基础上,通过MCIS和某模型适配,在典型Agent任务场景中,同等SLO约束下,相比单一算力构建的推理系统,实现同等投资10倍Token产能提升。

从Capability到Capacity,为什么需要系统协同?SD200 Ultra和HC2000,一个向上,一个向广,底层是同一个判断:当智能开始被“生产”,算力产业竞争不再是单点竞争,而是系统竞争。浪潮信息首席AI战略官刘军将这种思路概括为“贯穿式创新”:一是从芯片、服务器系统到模型的贯穿;二是从单机到系统的贯穿,根据不同计算负载特征匹配最适合的计算资源,如Prefill用大算力芯片搭配LPDDR颗粒,Decode选择大容量HBM芯片,FFN环节选择3D DRAM堆叠芯片,构建多元芯片、多元算力系统;三是从技术到生态的贯穿,产业协作从零和博弈转向开放共赢。

单机跑Kimi K3首破5.85毫秒,同等投资Token产能提升10倍!浪潮信息破局Agent算力难题

从更长周期看,Capability和Capacity并非两条平行线,而是一个循环。Capability负责创造新的可能,Capacity负责让新的可能被更多人获得。更大规模的智能普及,又会带来新的应用、新的数据、新的需求,推动下一轮Capability突破。系统协同,正是让这个循环持续运转的底层机制。

进入Agent时代,Token工厂不能只问拥有多少GPU、CPU,还应问:这些算力能够支撑多强的智能?能够以多低的成本生产多少智能?浪潮信息用SD200 Ultra向上突破智能上限,用HC2000向广推动智能规模化供给,连接两者的是系统级协同创新与开放生态。今天的Capability,正是明天Capacity需要规模化供给的能力。Agent时代,计算产业的使命因此变得比以往任何时候都更宽广。

标签: AI 资讯 AI

更多推荐阅读

闫俊杰首次英文播客采访:中美模型最后那 5%,比前 95% 更难追

闫俊杰首次英文播客采访:中美模型最后那 5%,比前 95% 更难追

MiniMax 创始人闫俊杰首次接受英文播客采访,谈及公司盈利路径与中美AI生态差异。截至8月,MiniMax年化收入运行率超8亿美元,B2B贡献超80%;H3模型一个月内下载约2500万次,开放两周出现约300个衍生模型。2026年上半年公司确认收入1.166亿美元,同比增长283.1%,开放平台及企业服务收入7390万美元,占总收入63.4%;同期研发费用2.969亿美元,调整后净亏损2.93...

2026-11-08 19:59:59
突发:OpenAI开始大规模封号!

突发:OpenAI开始大规模封号!

OpenAI 近日出现大规模封号现象,引发社交媒体广泛讨论。大量用户反馈账号突然被封,甚至未收到封号邮件,登录时直接显示账号被删除或无法登录。 从反馈来看,被封账号主要集中在几类:曾出售或拆分 API 免费额度的账号;拼车、多人共享及 Team 席位账号;反向代理账号,尤其是将 Codex 逆向转为 API 分发的 codex2api 类账号;低价区账号(土耳其、菲律宾、埃及等);学生认证账号;...

2026-11-08 19:59:58
A\三大内部模型曝光!领先Opus5.5三个月,RSI缩短80%实验时间

A\三大内部模型曝光!领先Opus5.5三个月,RSI缩短80%实验时间

第三方评估机构METR的新报告披露了Anthropic三个内部神秘模型:Model 2、Model 3、Model 4,真名尚未公开,但训练时间和部分成绩已出现。三个模型分别于今年7月、8-9月、9-10月完成训练。其中最强的Model 4在Anthropic综合能力指数AECI上已超过Opus5.5。 AECI是Anthropic版本的Epoch能力指数,综合多项内外部基准成绩。Model 2...

2026-11-08 19:59:48
浙大00后博士生再交卷!把十几种物理要素装进一个世界模型|华为昇腾原生

浙大00后博士生再交卷!把十几种物理要素装进一个世界模型|华为昇腾原生

时隔三个半月,浙大00后博士生陈天润创办的魔芯科技在乌镇世界互联网大会上发布新一代通用4D世界模型MoWorld 2.0。该模型在前代空间生成与实时交互能力基础上,加强对物理规律的建模,将重力、弹力、浮力、光照、柔体、流体、刚体、形塑体、热力等十余种物理要素融入同一模型,通过学习各要素及其相互作用,更准确模拟物体运动、碰撞和环境变化,为物理仿真等下游任务提供支持。团队构建物理高斯渲染器支持不同物理...

2026-11-08 19:59:46
陶大程教授最新技术文章:一台机器人犯过的错,怎样让另一台少走弯路?

陶大程教授最新技术文章:一台机器人犯过的错,怎样让另一台少走弯路?

近日,大晓机器人首席科学家陶大程教授发布具身双脑协同探索:让一台机器人付出的探索,为更多机器人提供依据;让今天获得的经验,减少明天必须重复的试错。 一台机器人犯过的错,怎样才能让另一台机器人少走弯路?设想一次取杯任务:机器人找到水杯,规划好接近方向,却在抬起时发生滑移。它调整接触位置,重新抓取,最终完成任务。对使用者而言事情到此结束;对能持续学习的系统,更值得追问的是:为什么会滑?这次调整在什么...

2026-11-08 19:58:41
破天荒!物理学「教皇」威滕33页独作致敬 AI,Claude提出关键构造

破天荒!物理学「教皇」威滕33页独作致敬 AI,Claude提出关键构造

物理学家威滕在预印本论文致谢中写道“许多细节由Claude Opus 5.5协助完成”,并在正文中坦承Claude Opus 5.5提出了一个关键方案。威滕是当代物理学传奇,曾统一弦理论五种表述、创立M理论,1990年因拓扑量子场论和超对称领域工作获菲尔兹奖,曾任普林斯顿高等研究院终身教授。这位80多岁的物理学家写了一篇33页独作长文,却在正文中写明某个数学构造不是自己想出来的,而是AI给出的。 ...

2026-11-08 19:57:28
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部