2024为AI元年，美国晶片三巨头多次来台展示AI芯片火力。但军备竞赛的火药味可以浓厚，搭载芯片的AI服务器则忙著「降温」，为散热厂商带来巨大商机。
摩根士丹利预期，英伟达在数据中心的GPU散热系统所需要的冷却，将创造48亿美元商机。
▌为什么散热不断被提出来讨论？
从简单的数学中就可以看出端倪，根据资策会资料显示，一台GB200 NVL72机架，连接了36个Grace CPU和72个Blackwell GPU，总功耗高达116千瓦（kW），而目前广泛使用的气冷散热只能做到20千瓦热功耗的散热，也就是高达近6倍的散热缺口。所以「气冷」在AI时代远远不足，「液冷」就成为各厂商的努力项目。
▌AI芯片过热怎么解？3种服务器散热方式一次看
在更深度切入散热赛局之前，必须先对散热方式有初步的了解，目前大致分为3种：气冷、液冷以及浸没式。
气冷散热：还是有高度市场需求
气冷是目前资料中心或是一般企业机房最广泛使用的散热方法，就像让服务器吹冷气，透过风扇、鳍片、导热管等方式带走热能。
而气冷散热若要提高到最强的散热效果，就要使用到热管结合热板设计的高阶气冷技术3D VC（Vapor Chamber），并加上大量的风扇来散热。
然而，专家表示，虽然风量风速越快，热对流速度就越快，但是不可能一直无限上纲，震动、噪音都会为服务器或工作场域带来负面影响。
相关行业人员表示，目前气冷散热在市场需求还是很有空间，因为H100晶片用气冷就可以散热，但当GB系列的晶片出货之后，液冷取代气冷的速度就会加快。
▌液冷散热：现在各家厂商追求的最大市场
「液冷」又称为直接式液冷（DLC，Direct liquid cooling），可细分成「水对气」和「水对水」。
水对气：利用水冷管线带走晶片的热能之后，变热的水再透过水管传送到机柜后的风扇背门，将热能吹散，进而达到散热效果。
水对气的散热方案是现有资料中心在气冷散热的物理极限下，所因应的对策。因为不需要大规模修改机房或者伺服器的机柜设备，只要加装一个风扇背门，就可以加强散热效果，「目前约有6~7成的数据中心还是使用这样的散热方式。」龚育谆说。
然而水对气虽然是目前的最适解，却也不是最佳解，加装的风扇墙会让机房噪音达到90～100分贝（车水马龙的路旁大约是80分贝），工作人员根本无法在机房内长时间作业。
图／ 数位时代制作
水对水：将装满冷却液的密封管线（或称封闭式冷却迴路）环绕在服务器内最容易发热的关键零组件附近，零组件透过导热铜片（或称「冷板」）将热能传导到冷却液，再透过液冷管线进行冷热液体的交换循环。与水对气最大的差异在于，服务器机柜背后不需要再使用风扇墙，大大提高机房空间使用率和降低机房噪音。
NVIDIA的高阶晶片GB200 NB072就是采用水对水的液冷散热。而此架构也是目前许多服务器代工厂商，如美超微、纬颖、英业达、云达等已投入的技术。
▌浸没式散热：是未来散热圣杯？
浸没式冷却，顾名思义就是将整台服务器放进不导电的液体当中，就像泡澡一样解热，且不只解决晶片的热，连同CPU、记忆体等各种伺服器中的电子设备，都可以进行散热。
然而浸泡的液体（介电液）带来的环保问题、服务器内的电子设备是否可以长时间浸泡、后续服务器的保养该由谁来维护等，浸没式还有很大一段路需要克服。
资料中心在导入浸没式方案时，也必须考量到工厂楼层耐重程度，以及电路和水路的机房基础设施等。也就是说，若想要导入浸没式方案，就必须要重新规划厂房，所耗费的成本非常庞大。
▌散热赛局起跑！谁能掌握品质、价格，谁就能掌握商机
总结上述的3种散热方式来说，必须注意气冷并没有被淘汰，搭载最新AI芯片的服务器在下半年才会问世，也不是全部的服务器都是AI服务器，因此气冷还是有存在的必要。
此外，浸没式虽然有部分商转的案例，像是阿里巴巴和中东地区的数据中心已在采用，但大多还是小规模的试验为主。
「液冷」就成为现阶段最有机会的领域，也让散热产业受到前所未有的关注。不过，必需要注意的是，现阶段Tier 1的云端业者，需要的不只是价格，对于品质更是高度要求，毕竟液冷如果出问题「漏水」，对于服务器可能带来重大的伤害。
因为注重品质，让这一波散热赛局，先天设立的高度检验与认证门槛，谁能笑到最后、是否雨露均霑，还很难盖棺定论。
