文章详情顶部

超节点如何成为AI算力的新答案?丨ToB产业观察

AGI
超节点的故事,就像是AI产业从“拼单点”走向“拼系统”的缩影。

2026年,国产算力领域最火的一个词非超节点莫属。这个看起来有些技术化的名词,正在悄悄改变算力世界的底层逻辑。提到计算与超节点,我们首先想到一个词就是:天下之势,合久必分,分久必合。这点用在如今的计算领域十分恰当。

当我们从云计算的“分布式”计算时代走过,步入AI时代之后,单颗GPU已经不足承载AI算力需求之时,将多颗GPU所处的服务器“融合”成一台超级计算机,这就是超节点如今正在做的事。

推理市场的必然产物

2026年,用户对AI算力公司的提问已经从“你能给我多少卡?”,转变为“你每秒能稳定产出多少有效Token?成本是多少?”这背后的本质是因为大模型已经从原先的训练为主,变为推理为主。

过去两年,大模型的参数规模一路狂奔。从千亿级到万亿级,MoE架构成为主流,DeepSeek R1有671B参数、256个路由专家;Kimi K2.5更是达到了1T参数、384个路由专家。每生成一个Token,模型内部就要触发几十甚至上百次跨卡通信。这种通信量级,传统服务器集群根本扛不住。

对此,业内专家告诉我们,大模型正在从能训练、能运行进入规模化生产阶段,问题不再是单卡峰值和卡数,而是系统能否稳定承载模型、持续产出有效Token,同时控制时延与总成本。换句话说,训练是项目制的,训完即止;推理是运营制的,时延敏感,成本与收入直接挂钩。

无独有偶,中科曙光高级副总裁李斌也向我们表达了相似的观点,他指出,行业衡量算力的标准变了,过去主要看单颗芯片的峰值性能,现在更看一套系统能持续输出多少有效算力。

这个改变的背后,受到了两个需求的影响。一个是模型侧的倒逼。MoE混合专家架构驱动大模型参数规模持续膨胀,前沿模型的参数量快速突破万亿。参数和序列长度的增加带来键值缓存(KV Cache)的激增,需要超大显存空间来承载;而推理过程是典型的通信敏感型计算,专家路由、Token分发、跨卡数据交换,都对互连带宽和时延提出了近乎苛刻的要求。

另一个是应用侧的放大。Agent的兴起让一次用户请求可能触发多轮模型调用、工具调用和并发任务,智能体推理需要生成比传统模型多近百倍的数据词元。对此,李斌指出,“Token消耗和并发压力都会上升,带来的跨卡通信,对带宽和时延都很敏感。”

需求有了,供给侧的条件也在成熟。高速互连、液冷、分布式存储和系统管理软件的进步,让把更多计算资源装进一个更紧密的系统成为可能。于是超节点从概念走向共识,而超节点本质上做了一件事:把高速互连域从传统的8卡扩展到几十卡甚至上百卡,让卡间通信从网络传输,变成内存访问级别的低延迟。

这个效率的提升效果有多大?以英伟达的NVL72为例,海外研究机构SemiAnalysis的开源推理基准InferenceX做过一组同芯片对照实验:GB200 NVL72与HGX B200使用同一代Blackwell GPU,唯一差异是系统架构。在DeepSeek R1推理中,NVL72凭借72卡NVLink全互连的规模优势,单卡吞吐最高达到B200的4.4倍,峰值达每卡4130 Token/秒,而B200只有941 Token/秒。原因在于,B200服务器只支持8卡NVLink互连,一旦专家并行度超过8,通信就要跨出NVLink域、走上带宽低得多的以太网。

效率提升的主要来源不是单卡变快,而是互连域和系统架构对通信开销的压缩。业内专家指出,“这波热度的本质是基础设施竞争的计量单位从FLOPS变成每元、每毫秒能稳定产出多少有效Token”。模型演进定义了需求的上限,系统能力决定了落地的下限,两者一旦匹配,超节点便从概念变成了产业共识。

超节点落地需面对“四堵墙”

方向明确了,但把超节点做出来,远比想象中艰难。行业普遍用“四堵墙”来概括传统服务器集群面临的瓶颈,通信墙、功耗与散热墙、存储墙、复杂度墙。

超节点要突破这四堵墙,考验的不是某一项单点技术,而是计算、互连、供电、散热、存储、软件的系统级整合能力。也正因如此,真正的超节点“绝非物理组合”,据悉,前期仅芯片架构设计费用投入就可能超过亿元。

这其中首当其冲的就是通信墙。传统集群中,卡间通信走的是网络传输路径;超节点则把高带宽互连域从8卡扩展到64卡以上,让卡间通信变成接近内存访问的低延迟操作。

与通信墙相比,存储墙与复杂度墙则更考验体系化能力。中科曙光的思路是把通信、存储、散热和管理问题放到一个系统里协同优化:通信上采用超节点内部高速互连、超节点之间scaleFabric高速网络的分层架构;散热上浸没式相变液冷让PUE低至1.04;存储上ParaStor系统围绕大规模并发访问和检查点读写进行优化,并多次登顶全球性榜单。而面对复杂度墙(系统规模越大,局部故障、软件适配和运维压力越容易被放大)的挑战,曙光强调的下一阶段重点,是故障快速隔离与恢复、跨架构应用迁移等问题。

功耗/散热层面。目前超节点的解决方案中,液冷已经成为标配。联想在这条路上走得相当扎实,据联想中国基础设施业务群服务器事业部总经理周韬介绍,联想“海神液冷”品牌已从通用服务器扩展到全部AI服务器,支持45度温水进水,日常水温无需额外冷却处理即可直接使用,大幅降低冷却环节的能耗。此外,液冷硬件设备的生产过程也是对供应链的考验,对此,周韬告诉我们,整机柜液冷产品一个机柜承重超过3吨,耗电达到数百千瓦,联想为此对工厂进行了承重加固、十兆瓦级供电改造,而因为液冷快接头非常精密,灰尘和腐蚀很容易导致漏液,工厂甚至需要把生产环境的洁净度做到了十万级。

值得一提的是,目前超节点仍处于发展的初期阶段,我们在与不分国内一线服务器厂商的沟通中,各家在多大规模才合适的问题上,给出了不同的答案。分歧的焦点在于:一级高速全互联域到底应该做多大?

在某行业专家看来,互连域存在收益收敛的边界,NVIDIA在GH200阶段的研究就验证过,互连域规模超过一定程度后,训练性能的边际提升趋于平缓,相对增加的复杂度、成本和故障面而言得不偿失。因此NVIDIA在GB200、Vera Rubin时代都在控制单一互连域规模,转而专注提升单系统效率。

联想的选择同样体现这一逻辑,据周韬介绍,联想问天超节点选择单节点40张GPU的规模,理由是真正意义上的一级高速全互联域,无论是NVIDIA NVL72、AMD Helios还是其他方案,规模大多集中在几十卡到百卡以内,所谓数百卡乃至上千卡的系统,本质上已进入多级互联和Scale Out集群范畴。40卡既能在节点内获得较高通信效率,又避免超大规模互连在可靠性、运维上的挑战,同时通过标准网络灵活扩展至更大的集群。

曙光则选择“大小通吃”:既有十万卡AI超集群曙光8000,也有40卡的scaleX40“箱式超节点”,对应不同客户的需求与建设条件。

尽管路线各异,但共识正在浮现:规模是手段而非目的,真正需要优化的是一定规模约束下的系统效率。业内专家直言不讳地批评了一种现象,部分厂商刻意把互连域规模包装成超节点能力的代名词,“规模可以在参数表上一夜之间做上去,Token成本却必须在真实负载里一分一毫地省出来”,该负责人指出。这句话,或许可以作为本轮超节点竞赛里最值得客户记下的一条选型提醒。

工程化是厂商角逐的焦点

技术验证只是起点。超节点要真正规模化落地,工程化的挑战不可回避。在这个过程中,真正的瓶颈不在某个单点,而在系统化的工程能力,以及与之配套的软件生态,技术验证只需要把系统跑通一次,规模化商用要求把这套系统成千上万次地稳定复制出去。

从样机到产品,要过的第一关是供应链。AI的爆发带动了上下游整体进步,也抬高了关键物料的压力。高速线缆、高速背板、MLCC电容这些元器件的供应都趋于紧张,这类问题靠单家厂商解决不了,得由整机厂牵引上下游一起扩产和验证。另一头是国产AI芯片的供给约束:IDC的数据显示,2025年本土厂商AI加速卡出货约165万张,预计2026、2027年升至368万和608万张,但总量仍受外部约束,这也直接框定了国产超节点放量的节奏。

第二关是标准化和生态墙。这个挑战是本轮沟通中几家厂商都承认、但又最难解决的问题。就像前文提到的,超节点这个技术仍处于发展的初期阶段,各家互连协议和软件栈互不兼容,客户在模型迁移、框架适配和运维体系上要反复付出改造成本,选型变成一次高风险的押注。

破局的路径自然是开放。当前,各家厂商也都在生态和标准化方面有所布局,浪潮信息围绕OAM架构累计推出10款开放加速系统、完成30余款主流加速芯片的兼容适配;2024年还牵头成立了超节点算力集群创新联合体,2025年发布超节点智算应用“北京方案”。

曙光则通过“AI计算开放架构”推动分层解耦,芯片厂商专注算力与能效,系统厂商专注集群架构与网络设计,软件厂商专注算法与场景创新。

联想的姿势略有不同,周韬表示,联想在通用超节点方面坚持开放路线,定制化超节点则与头部客户深度协同,合作设计。在周韬看来,超节点真正拥有的人群未来会集中在少数头部客户身上,而“各家有自己的标准、架构、Link”,通用与定制两条腿走路是现实的选择。

第三关是可靠性。规模上去之后,任何一处短板都会被放大,局部故障、软件适配和运维压力尤其明显。基于此,李斌将“故障快速隔离与恢复、跨架构应用迁移、算力利用率”列为下一阶段要重点解决的问题。这也解释了为什么三家的开放架构里,软件平台都占了很大篇幅:硬件定义上限,软件决定下限,这句话在超节点时代比以往更成立。

此外,客户结构的不均匀,是落地时另一道隐形坎。头部互联网客户有多年系统工程积累,机房、供电、散热、组网、运维都能接住超节点的部署门槛,已经率先大规模上量;中小企业、科研机构和大型行业客户同样认超节点的价值,但基础设施和运维能力弱,靠自己很难复制头部客户的打法。他们要的是开箱即用、稳定产出Token、且具备完整软件生态的产品,把系统工程复杂度封装在产品内部。联想的SuperPod40、曙光的scaleX40,针对的都是这个痛点。

展望未来,超节点的形态大概会沿着几条线收敛。其一,超节点的形态会继续分层,内部以Scale-up追求高带宽低时延,之间通过开放的Scale-out网络扩展,未来不太可能只有一种尺寸或一种协议。其二,细分场景的差异化架构会成为演进方向,预训练、后训练、推理的Prefill与Decode对算力、显存、通信的需求结构差异很大,“用同一种芯片和互连方式通吃所有阶段,必然存在错配”,更合理的终态是让每个阶段匹配更合适的芯片与互连架构。其三,供电、光互联、浸没式液冷等前沿技术正在储备中——联想已把800伏高压直流供电、PCIe Gen6交换、整机柜浸没式列入探索方向。其四,竞争的终局不在硬件参数表上,而在谁能构建开放、协同、可持续演进的生态

超节点的故事,就像是AI产业从“拼单点”走向“拼系统”的缩影。当行业开始用每一块钱能买到多少有效Token来衡量算力,真正的竞争才刚刚开始。

(文|Leo张ToB杂谈,作者|张申宇,编辑丨杨林)

本文系作者 Leo张ToB杂谈 授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
本内容来源于钛媒体钛度号,文章内容仅供参考、交流、学习,不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容

扫描下载App