Nvidia发布用于数据中心的液冷版A100 GPU

Nvidia今天晚些时候详细介绍了A100 GPU的新液冷版本,可以提高数据中心的能源效率并减少碳排放。

Nvidia今天晚些时候详细介绍了A100 GPU的新液冷版本,可以提高数据中心的能源效率并减少碳排放。

Nvidia于本周二早些时候举行的Computex 2022大会上首次公布了这款GPU。大会期间,Nvidia还分享了一些合作伙伴开发的硬件产品相关详细信息,这些产品将采用Grace CPU Superchip、Grace Hopper Superchip和Jetson AGX Orion产品。

目前A100是Nvidia的旗舰数据中心GPU。Nvidia在2020年推出该芯片,它既可以用于训练人工智能模型,也可用于执行推理任务,或者训练完成后的神经网络任务。A100包含540亿个晶体管,性能是上一代的20倍。

A100最初针对数据中心设计的版本,是采用空气冷却的方法来为服务器散热的,这种方法已经被数据中心行业广泛采用长达几十年之久。Nvidia称,采用空气冷却方法的A100在运行AI软件时的能源效率是CPU的20倍。

Nvidia此次推出的新液冷版A100可进一步提高效率。Nvidia称,液冷版的性能与风冷版相同,但耗电量减少约30%,这一节电量数据是由Nvidia及其主要的数据中心运营商Equinix通过单独测试得出的。

液冷还有其他很多优点。空气冷却系统很多是通过蒸发大量水的过程对服务器进行散热的、而液冷系统所需水量要少得多,而且大部分或者全部的水都是可以回收的,这让数据中心运营商可以大幅减少用水量。

液冷系统的另一个好处是在数据中心占用的空间更少,其结果就是可以把更多的GPU配置到服务器中。服务器配置新的液冷版A100需要占用一个PCIe插槽,而之前的风冷版需要占用两个。

Nvidia目前正在向早期客户提供液冷版A100的样品,计划在今年夏天全面上市,至少有十几家硬件合作伙伴打算将该芯片集成到他们的产品中。

Nvidia还计划未来发布液冷版的H100,H100是Nvidia在今年早些时候首次公布的新旗舰数据中心GPU。H100运行Transformer自然语言处理模型的速度比A100快6倍。未来,Nvidia还希望推出液冷版的GPU,相比风冷版提供更高的功率效率和更高的性能。

Nvidia发布用于数据中心的液冷版A100 GPU

除了液冷版A100之外,Nvidia今天还宣布,台湾的硬件合作伙伴将推出数十款基于Grace CPU Superchip和Grace Hopper Superchip的服务器。Grace CPU Superchip是一个计算模块,结合了Nvidia 内部开发的两个Grace CPU,在单个封装中使用高速互连进行连接。Grace Hopper Superchip是一个将Grace CPU与GPU相结合的计算模块。

据Nvidia称,这些合作伙伴开发的新款服务器,所采用的模块是基于四种专门的参考设计,这些参考设计侧重于不同的企业使用场景。

其中两个参考设计采用了Grace Hopper Superchip,让硬件制造商能够构建针对AI训练、推理、高性能计算工作负载进行优化的服务器;另外两个参考设计采用Grace CPU Superchip,专注于数字孪生、协作、图形处理和视频游戏流等场景。

Nvidia发布用于数据中心的液冷版A100 GPU

Nvidia还推出了有关Jetson AGX Orin产品硬件生态的更新信息。Jetson AGX Orin是一个紧凑型的计算模块,旨在网络边缘运行AI模型。它将GPU与基于Arm设计的多个CPU以及其他处理组件进行结合,每秒可以运行275万亿次计算操作。

Nvidia还详细介绍称,有30多家硬件合作伙伴计划推出基于Jetson AGX Orin的产品,这些系统包括服务器、边缘计算设备、工业个人计算机和载板,以及工程师用来开发新硬件产品的电路板。

来源:至顶网计算频道

0赞

好文章,需要你的鼓励

2022

05/27

08:46

分享

点赞

邮件订阅