Nvidia推出DSX POD:预制AI工厂集装箱方案

🤖 AI总结

主题

英伟达发布DSX POD集装箱式AI数据中心参考设计

摘要

英伟达发布DSX POD集装箱式AI数据中心,预装算力与冷却系统,可大幅缩短部署时间,2027年起交付。

关键信息

  • 1 DSX POD预装Vera Rubin机架、网络和液冷系统,最快14天投入使用
  • 2 单箱容纳504个Rubin GPU,采用干式冷却可节水
  • 3 合作伙伴将于2027年初开始全球交付

Nvidia推出DSX POD:预制AI工厂集装箱方案

Nvidia希望新增的AI算力能够以完全建成的状态出现在数据中心。在周三举行的GTC柏林大会上,该公司发布了DSX POD,这是一种集装箱参考设计,合作伙伴将在集装箱出厂前就完成Vera Rubin机架、网络设备和液冷系统的安装。

Nvidia表示,在传统数据中心中安装和布线机架可能需要数月时间。但一个DSX POD最快14天即可投入使用并开始生成Token,前提是场地已经具备所需的电力、散热和网络连接(不过客观来说,这些往往也是瓶颈所在)。

这一设计的核心思路是让数据中心运营商更快获得价值,正如Nvidia创始人兼首席执行官黄仁勋在声明中所说:”AI工厂只有在开始生成Token时才创造价值,而不是在建设完成时。”

集装箱里有什么

每个集装箱容纳七个Vera Rubin NVL72机架,相当于504个Rubin GPU。Nvidia超大规模与高性能计算副总裁Ian Buck在发布会前的新闻简报会上表示,单个机组包含约1000万个组件,重量约为28公吨。

这些集装箱还预装并测试好了约20公里的铜缆和17公里的横向扩展网络线路。Buck说,集装箱运抵后,施工团队只需将其就位、与相邻单元连接,然后进行最终的烧机测试即可。

用水量

Buck还指出,Nvidia设计这套系统时未使用水冷散热。据Nvidia介绍,Vera Rubin可以在高达45摄氏度的冷却液环境下运行,因此干式冷却器(其工作原理与汽车散热器类似)可以取代目前许多数据中心仍在采用的蒸发冷却塔。

在另一份DSX相关公告中,Nvidia解释说,某些气候条件下的运营商在最炎热的日子里可能仍需要使用冷水机组。该公司估计,在2吉瓦的部署规模下,与冷却塔相比,干式冷却每天可节约约5400万升水。

集装箱式数据中心

这种”集装箱服务器”的概念听起来似曾相识,事实上,科技公司确实很喜欢使用集装箱形式,尽管有时这更像是一种宣传噱头,而非解决实际问题的方案。

早在2006年,Sun Microsystems就发布了”黑盒子计划”,将数据中心装进一个20英尺的集装箱。十年后,时任AWS首席执行官的Andy Jassy在2016年re:Invent大会的主题演讲结尾,让一台18轮卡车把名为Snowmobile的45英尺集装箱开上舞台,这个集装箱可运输100拍字节的数据。

此后,微软和AWS都曾为灾区和军事任务建造过集装箱式数据中心。

不过,这些案例都与Nvidia此次的做法不同。DSX POD本质上是可以直接插入数据中心的预制组件。Buck将其描述为新型AI工厂的构建模块。

已经销售集装箱式边缘数据中心的Armada公司是参与建造这些设备的17家合作伙伴之一,其他合作伙伴包括Bull、戴尔、HPE、施耐德电气和Vertiv。

Nvidia表示,合作伙伴将从2027年初开始在全球范围内交付DSX POD系统。

© 版权声明

相关文章