直到最近，服务器温度控制还只是一个纯粹的技术问题，很少受到关注，但如今情况已发生巨大变化。随着生成式人工智能的广泛应用，散热已成为决定我们能够部署多少计算能力以及运行成本的关键因素。
问题在于，目前的机架功率密度非常高，很容易超过 50 kW。这清楚地表明，传统的空调已经不足以满足需求，迫使整个行业迅速转向直接液冷技术，这项技术已经从实验室实验发展成为任何想要在该领域竞争的企业都必须采用的标准。
热水冷却的颠覆性概念
用热水冷却处理器听起来或许很疯狂，但这正是它的奥妙所在。我们说的是冷却液入口温度高达40°C 甚至 45°C 的系统，这在几年前简直就是灾难的预兆。
这项技术类似于按摩浴缸的温度控制，其原理基于基本的物理原理。人工智能芯片会产生大量热量，而由75%水和25%丙二醇组成的混合液体可以吸收这些热量，即使水本身已经很热。这种液体以45°C的温度进入回路，并以约55°C的温度流出，从而使处理器能够在人工智能应用中保持性能不受热水冷却的影响。
主要优势在于，由于运行温度较高，系统与外界空气的温差更大。这使得该系统在大多数温带气候条件下能够利用外部散热器被动运行，无需使用耗能巨大的电动冷水机组。
先进架构：冷板和智能CDU
仅仅更换冷却液是不够的；整个系统需要重新设计。关键在于带有内部微结构的冷板。高质量的冷板可以捕获 80% 到 90% 的热量，使数据中心能够依靠干式冷却器，从而最大限度地降低能耗。
另一方面，我们还有冷却液分配单元（CDU）。为了防止它们成为系统瓶颈，伊顿建议这些单元应具备智能化功能，并与电气架构协调运作。当电源系统和冷却系统使用相同的语言进行通信时，从芯片到电网的可靠性将显著提高，从而为人工智能基础设施树立新的标准。
- 节约能源： 能源成本可降低 20% 至 40%。
- 更多计算： 通过释放散热器的能源预算，可以为更多GPU供电，从而实现…… 产量增长33% 来自人工智能工厂。
- 水资源可持续性： 通过使用只需注水一次的闭路循环系统，可以省去蒸发塔，从而减少近 100% 的用水量。
以英伟达的 Rubin 架构为例
NVIDIA 的 Rubin 架构将散热技术提升到了新的高度。他们摒弃了通常超过 85 分贝的噪音风扇，并将服务器主板密封起来，打造出端到端的液冷系统。本质上，NVIDIA通过革新服务器散热方式，实现了其在人工智能领域的颠覆性变革。
然而，并非全是好消息。尽管英伟达已经解决了其设施内部的水资源问题，但外部环境影响仍然是一个挑战。这些中心所需的电力仍然严重依赖天然气和煤炭，而这些能源在发电过程中会消耗大量的水。
尽管面临这些外部挑战，但这种转变是不可逆转的。随着功率密度的增加，风冷已不足以应对，液冷成为确保芯片不会过早失效并保持最佳性能的必要解决方案，而非可有可无的选择。
实现可持续人工智能的关键在于将热管理与电力分配相结合，优化每一瓦电力的利用，将其转化为计算能力。采用闭环热水系统不仅能通过节约电力来提高企业盈利能力，还能为未来十年的数字化基础设施树立标杆。
