AI算力迈入MW时代!液冷正在重算每个Token的成本

AI算力迈入MW时代!液冷正在重算每个Token的成本

“当技术进步提高了某种资源的利用效率并降低其单位使用成本时,该资源的总体消耗量不仅不会减少,反而会因为需求的大爆发而呈指数级增长。”

这正是大名鼎鼎的“杰文斯悖论”,而在人工智能时代,随着大模型算法的持续优化与硬件迭代,生成单个Token的计算成本的下行,激发了全社会对算力的需求。从早期简单的AI对话,到如今需要进行长链条深度推理与自主规划的Agent工作流,一次复杂的AI交互,后台可能需要调用数万乃至数百万个Token,让全球Token的消耗总量呈现出惊人的数量级爆发趋势。

当千行百业的终端应用对算力的需求持续增长时,算力供给端的成本压力,开始以前所未有的速度从单纯的软件算法优化,转移到了物理基础设施的建设与运行成本上。

过去,国际巨头在单芯片的算力密度上保持领先,但这种领先却以惊人的功耗膨胀为代价。无论是英伟达的Blackwell B200,还是其他国际厂商近期布局的新一代AI加速卡,单芯片的热设计功耗(TDP)已击穿了1000W的大关。行业普遍预计,下一代高端AI芯片功耗将直奔2000W–3000W区间。单芯片解热的技术瓶颈,正在成为整个AI算力扩张的软肋。

尤其是当智算中心规模跨越万卡、十万卡门槛时,整个产业正在遭遇一面极其坚硬的物理高墙,散热系统、电力负荷以及机房物理空间,已经取代单纯的硅片,共同构成了决定智算中心总体拥有成本的铁三角。在算力底座上的国际博弈,已经从单一的“芯片设计之战”,迅速蔓延到了“系统级能源与散热之战”。

当单机柜功耗从30–50kW跃升到100kW以上,风冷已经触及物理极限:它既压不住越来越集中的热源,也喂不饱不断抬高的功率密度。液冷由此从”可选配置”变成”必选项”,单机柜功耗也正式从千瓦(kW)级迈入兆瓦(MW)级纪元。

从多柜堆叠,到单柜原生1MW

智算中心从传统机柜堆叠向紧耦合超节点架构的演进,本质上是对空间与能量分布的工程重构。随着散热需求真正迈入MW级,市面上的方案大多仍停留在多机柜并柜堆叠的过渡形态:单柜的水力配套与解热设计多数还停留在数百kW级别,往往需要并联多个机柜来凑出总功率。这种路线能解决”散热量够不够”的问题,却绕不开机柜多、占地大、互联链路长的代价。

想要应对产业层面的变革,就必须重塑基础设施工程极限的底层实践,而这正是单柜原生MW级设计的机会所在。

近日,宁畅推出了全球首个MW级单相冷板全液冷超节点方案,实现了单柜原生1MW的散热能力。可以把高达1000kW的算力设备收进一个紧凑柜体,机柜数量与占地面积大幅下降。

而传统风冷时代,单柜功耗被限制在几十千瓦以内,智算中心不得不采用“摊大饼”式的稀疏部署,将海量服务器平铺在数千平方米的机房中。

对万卡集群而言,这种空间的高密收敛,节点间数据交换的物理距离同步被压缩:光纤更短、光模块更少、互连延迟更低,不仅降低了网络互连设备的采购投入,更打破了节点间通信的延迟瓶颈,让整个AI集群真正像一台超级计算机那样协同工作。

然而,极高密度的部署,也给工程部署的运维复杂度带来了更高的挑战。

AI算力迈入MW时代!液冷正在重算每个Token的成本

图为:宁畅MW级超节点整机柜-快插接头

首先是安全,为了从源头规避风险,宁畅在方案中采用了正交无背板布局,将散热供液水路与供电区域的物理硬隔离。通过将计算节点、SW交换节点、供电模块以及Busbar全部纳入液冷散热覆盖范围,并实施水电分区独立舱体设计,即便发生微量的冷却液渗漏,液体也不会直接接触供电器件,从而大幅提升了万卡集群的基础设施安全性。

AI算力迈入MW时代!液冷正在重算每个Token的成本

图为:宁畅MW级超节点整机柜-二级manifold

在运维上,该方案引入了计算节点与交换节点的两级Manifold散热歧管架构(主Manifold支持36个计算节点、288张卡的液冷散热,二级SW-Manifold则专为柜内8个交换节点供液),并实现了全节点的液冷盲插,运维人员可以像拔插普通硬盘一样对故障节点进行热插拔更换,显著缩短了故障修复时间,解决了大规模集群自动化运维的工程落地难题。同时,主Manifold支持上下双向供回液,当业务负载不高时可只启用单向供液,将整柜制冷量灵活下调至500kW,让机柜能够跟随业务需求弹性配置。

把每一度电留给AI算力

在智算中心的封闭生态内,供电局接入的总配电容量是恒定的,冷却系统每多消耗一度电,就意味着少了一度电输送给GPU去进行算法演练。因此,液冷的终极目标不仅是要把热量带走,更要在极低能耗的前提下把热量带走。

为此,行业通常以“比流量”来衡量带走单位热量需要推动多少冷却液。

目前,行业普遍的比流量水平大约为1.5LPM/kW,而宁畅在MW级单相冷板全液冷超节点方案中,做到了1.2LPM/kW的冷却比流量,意味着用更少的冷却液循环量,就能带走同样的废热。

更少的冷却液输送量,直接为整个数据中心水泵系统“减负”。这些被节省下来的电力,可以全部输送给计算设备,就意味着在同等能耗限制下,能够完成更多的AI训推任务。

AI算力迈入MW时代!液冷正在重算每个Token的成本

图为:宁畅MW级超节点方案主manifold-机柜整体

这种出色的散热效率源于水力架构的底层创新。宁畅首创的“日字形”大口径扁管主Manifold,采用不均衡壁厚设计,实现部件结构减重31.2%,配合多组分流孔设计,将节点均流精度从行业普遍的5%~10%收窄至1%以内,消除局部热点导致的芯片降频风险;联合部件厂商定制的大口径快插接头则采用低流阻设计,与现有规格相比流体阻力大幅降低58%,可支撑单节点在1U实现28kW稳态散热、峰值裕度可达32kW,也为下一代更高功耗芯片预留了升级余量,充分保护了前期的基建投资。

By Token:一本写满物理学的算力账本

随着大模型全面进入商业化落地阶段,按Token计费(By Token)已成为全行业的标准模式,Token的生产成本直接决定了AI企业的单位经济效益与生存空间。

Token的真实成本,是算力系统全生命周期总投入与总产出的比值:总投入涵盖芯片折旧、机房租金、电网供电、散热能耗以及高昂的运维人力;总产出则是这套系统在生命周期内实际生成的Token总量。液冷的角色,是同时压低前者、抬高后者。

宁畅单柜原生1MW的高密部署,将庞大的算力浓缩于极小面积内,大幅摊薄了单个Token所分担的机房土建与场地租金,极短的线缆连接也显著减少了昂贵光模块的采购用量。1.2LPM/kW的低比流量,配合低流阻快插设计与出色的均流效果,大幅降低冷却系统的辅助用电,让每一度电都精准花在Token的计算生成上。

同时,水电物理隔离的正交架构与全节点液冷盲插,大幅降低了漏液烧毁风险并缩短了故障修复时间,有效避免了因整机柜停机维护造成的算力闲置浪费与运维人力消耗。

而另一端,单芯片解热能力迈入5000W水平,意味着即便芯片长时间跑在极限功耗下,温度也能被控制在理想性能区间;而1.2LPM/kW的低比流量配合1%以内的极致均流,让冷却液以更小的输送量均匀覆盖整柜每一个节点,避免出现局部过热、个别芯片先降频的问题。在双重保障叠加之下,让所有卡都能在不降频、不妥协的前提下长时间维持高主频运转,从而显著提升芯片生命周期内的实际 Token 产出总量。

对于云服务商和智算中心运营商而言,这直接缩短了智算基础设施的投资回收周期;对于大模型与AI应用企业而言,更低的Token成本就是商业化竞争中最硬核的护城河。

算力下半场,胜负手藏进机房

杰文斯悖论的本质,是技术效率提升必然带来规模的跨越,从而将竞争推向更深的物理底层。当AI大模型对算力供给提出了新阶段的需求,曾经隐于幕后的冷却系统、流体管道与电力分配,终于站到了科技产业的聚光灯中央。

从多机柜堆叠到单柜原生1MW的系统级收敛,从粗放的大流量循环到1.2LPM/kW的热力学精算,液冷正从”数据中心的散热配件”,演变为重构AI算力成本曲线的核心变量。

AI的未来不仅建立在无形的算法代码之上,更深深地锚定在这些冰冷而坚硬的热力学法则之中。

原创文章,作者:志斌,如若转载,请注明出处:http://damoai.com.cn/archives/18768

(0)
上一篇 2小时前
下一篇 2025年3月17日 上午11:41

相关推荐

发表回复

登录后才能评论