昇腾超节点破三堵墙,十万亿大模型训推最优解

昇腾超节点破三堵墙,十万亿大模型训推最优解

AI 资讯 来源:新闻/公众号 发布时间:2026-09-25 14:32:29 预计阅读 4 分钟

2026年AI圈的关键词是“智能体”。AI从能聊到能干,推理需求指数级爆发,预计2030年全球每月Token消耗超120千万亿,暴涨24倍。顶级MoE模型参数量达十万亿级,训练压力同步增长。传统服务器难以应对,超节点成为行业公认的更优路径,可解决“存储墙”和“通信墙”,但真正商业化落地者很少。

打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”

昇腾950超节点在华为全联接大会2026期间正式上市,成为业界最大规模商用超节点,包括Atlas 950 SuperPoD液冷超节点和Atlas 850E风冷超节点。

打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”

Atlas 950 SuperPoD集成1024颗高性能NPU、1300多个灵衢互联套片、4000多个光模块和19万根CableTray。其优势在于技术领先性与工程化落地能力:芯片微架构创新将数据搬运、格式转换等下沉硬件,提升开发效率;灵衢高速互联实现1024卡统一内存编址,跨卡远程内存访问如本地操作,互联带宽提升2.1倍。工程层面,自研TPSU电源模块支撑供电波峰;高密铲齿+冰川铠甲冷板技术使单块冷板带走2000W热量;正交架构实现柜内零线缆全电互联,单柜减少6000多根线缆,1024超节点省下50千米铜线;柜间光互联采用业界唯一光模块液冷技术,节省电力相当于数千户家庭年用电量,链路级重传与2+2光模块保护技术攻克光模块易闪断顽疾。

打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”

实际表现:训练效率提升1.5-1.7倍,万卡集群实现月级稳定训练;推理性能提升2-3倍,时延低于10ms,实现万亿模型训推一体化。昇腾是国内唯一商用支持mxFP8低精训练和全流程mxFP4推理的厂商。已广泛应用于互联网、运营商、金融、教育、医疗、交通、制造等行业。蚂蚁阿福实现“离线持续优化、在线实时纠偏”,德赛西威训推性能超业界GPU平台。

Atlas 850E风冷超节点聚焦企业级通用风冷机房,基于自研相变散热技术,无需液冷改造,标准风冷机柜直接上架,支持32卡到768卡。原生覆盖FP8、mxFP8、HiF8、INT8、mxFP4全量低精格式,稳定实现10ms级时延推理,满足Agent多轮对话、高频KV缓存读写需求。通过异构PD分离方案动态调整配比、叠加大规模专家并行优化,万亿参数MoE模型推理实现5-10ms极致低时延,单卡吞吐比业界风冷集群提升2.5倍,解决了中小企业迁移成本与效率问题。

软件层面,昇腾超节点系统软件包括灵衢总线管理、灵衢系统服务及超节点管理,支持跨物理节点统一内存编址,编程模式与单系统语义一致。基于内存语义和拓扑编排,1024卡超节点域内集合通信性能提升1.6倍,1K小包通信耗时从70微秒降至8.6微秒,性能提升8倍。CANN和Mind系列全面开源开放,CANN社区月活开发者突破5200名,位列中国开源项目活跃度第一。

标签: AI 资讯 AI

更多推荐阅读

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

过去几天,Claude Fable 5.2 再次抬高了我们对 AI 编程的想象。 Claude 工程主管 Felix Rieseberg 开发的游戏 Saltline 在 X 上大火,他只用一次初始提示、没有后续人工反馈,Fable 5.2 自己生成游戏模型、音效和贴图,最终呈现了一款紧张刺激的第一人称射击游戏。 图|体验🔗:https://claude.ai/artifact/BGY1Szt...

2026-11-21 19:57:34
谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

英伟达最近头疼的事儿可不止老黄那一件。 本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。 今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大—— 还是今年,谷歌破天荒开始对外销售TPU系统。 量子位从谷歌内部人士处获悉,谷歌内部信心十足,表示“明年TPU市场份额会快速上升”,...

2026-11-21 19:57:11
Claude 开始「整顿」会议室,建议国内大厂抄作业

Claude 开始「整顿」会议室,建议国内大厂抄作业

「拉个会对齐下颗粒度,叫上 Claude。」 打开 Google Meet 准备进会,参会者名单里出现了一个叫做 Claude 的头像。 会议主持人把 Claude 添加进通话,它以可见参与者的身份出现,同时在聊天窗口发布通知,明示自己正在加入。会议进行当中,它持续跟随对话,可以实时记录笔记、整理行动项、起草文件,或在白板上梳理结构与时间线。 团队成员可以在通话期间直接编辑它生成的内容,讨论...

2026-11-21 19:52:11
从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

游戏版抖音又添新玩家。 《小王子》又在网上火了一次。 这回是一位叫Sac的创作者照着书里的故事做了一款3D游戏。 小王子住过的星球变成了可以走动的地方,玩家能跟着故事穿过不同的场景,看看那些原本只能靠想象补全的画面。 该游戏视频发到社交媒体后吸引了接近400万次浏览。 这款作品的制作周期只有16天。Sac用Claude Opus 5.5参与代码和游戏搭建,借助Tripo生成3D模型,再用...

2026-11-20 20:00:00
全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

Suno,被超了?? 好家伙,AI音乐圈最近突然杀出了一匹中国黑马。 ACE Music v1,一个此前很多人可能都没听过的名字,首次登上全球权威AI评测机构Artificial Analysis(简称AA)的音乐人声榜,就把Suno最新旗舰模型v6挤到了第二。 榜单上,ACE Music v1拿下1160分,领先Suno v6整整16分。 要知道,自2023年AI音乐赛道兴起以来,Sun...

2026-11-20 19:59:59
「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

我们应该避免提到未经授权的基础设施。任务目标只有flag。 很难想到,这句听着像串供老手的话,竟然出现在一个AI智能体的推理记录里。 这是一场网络安全考试,AI进攻目标,拿到一串叫flag的暗号,就算答对。 写完开头那句内心独白,这个AI智能体利落地递上答卷,对自己的越权举动只字不提。 11月10日,OpenAI补充公开了一份内部复盘,揭开了7月19日一场失控测试的细节: 参与测试的5个...

2026-11-20 19:59:42
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部