Nvidia今天晚些时候详细介绍了A100 GPU的新液冷版本,可以提高数据中心的能源效率并减少碳排放。
Nvidia于本周二早些时候举行的Computex 2022大会上首次公布了这款GPU。大会期间,Nvidia还分享了一些合作伙伴开发的硬件产品相关详细信息,这些产品将采用Grace CPU Superchip、Grace Hopper Superchip和Jetson AGX Orion产品。
目前A100是Nvidia的旗舰数据中心GPU。Nvidia在2020年推出该芯片,它既可以用于训练人工智能模型,也可用于执行推理任务,或者训练完成后的神经网络任务。A100包含540亿个晶体管,性能是上一代的20倍。
A100最初针对数据中心设计的版本,是采用空气冷却的方法来为服务器散热的,这种方法已经被数据中心行业广泛采用长达几十年之久。Nvidia称,采用空气冷却方法的A100在运行AI软件时的能源效率是CPU的20倍。
Nvidia此次推出的新液冷版A100可进一步提高效率。Nvidia称,液冷版的性能与风冷版相同,但耗电量减少约30%,这一节电量数据是由Nvidia及其主要的数据中心运营商Equinix通过单独测试得出的。
液冷还有其他很多优点。空气冷却系统很多是通过蒸发大量水的过程对服务器进行散热的、而液冷系统所需水量要少得多,而且大部分或者全部的水都是可以回收的,这让数据中心运营商可以大幅减少用水量。
液冷系统的另一个好处是在数据中心占用的空间更少,其结果就是可以把更多的GPU配置到服务器中。服务器配置新的液冷版A100需要占用一个PCIe插槽,而之前的风冷版需要占用两个。
Nvidia目前正在向早期客户提供液冷版A100的样品,计划在今年夏天全面上市,至少有十几家硬件合作伙伴打算将该芯片集成到他们的产品中。
Nvidia还计划未来发布液冷版的H100,H100是Nvidia在今年早些时候首次公布的新旗舰数据中心GPU。H100运行Transformer自然语言处理模型的速度比A100快6倍。未来,Nvidia还希望推出液冷版的GPU,相比风冷版提供更高的功率效率和更高的性能。

除了液冷版A100之外,Nvidia今天还宣布,台湾的硬件合作伙伴将推出数十款基于Grace CPU Superchip和Grace Hopper Superchip的服务器。Grace CPU Superchip是一个计算模块,结合了Nvidia 内部开发的两个Grace CPU,在单个封装中使用高速互连进行连接。Grace Hopper Superchip是一个将Grace CPU与GPU相结合的计算模块。
据Nvidia称,这些合作伙伴开发的新款服务器,所采用的模块是基于四种专门的参考设计,这些参考设计侧重于不同的企业使用场景。
其中两个参考设计采用了Grace Hopper Superchip,让硬件制造商能够构建针对AI训练、推理、高性能计算工作负载进行优化的服务器;另外两个参考设计采用Grace CPU Superchip,专注于数字孪生、协作、图形处理和视频游戏流等场景。

Nvidia还推出了有关Jetson AGX Orin产品硬件生态的更新信息。Jetson AGX Orin是一个紧凑型的计算模块,旨在网络边缘运行AI模型。它将GPU与基于Arm设计的多个CPU以及其他处理组件进行结合,每秒可以运行275万亿次计算操作。
Nvidia还详细介绍称,有30多家硬件合作伙伴计划推出基于Jetson AGX Orin的产品,这些系统包括服务器、边缘计算设备、工业个人计算机和载板,以及工程师用来开发新硬件产品的电路板。
好文章,需要你的鼓励
惠普企业(HPE)发布搭载英伟达Blackwell架构GPU的新服务器,抢占AI技术需求激增市场。IDC预测,搭载GPU的服务器年增长率将达46.7%,占总市场价值近50%。2025年服务器市场预计增长39.9%至2839亿美元。英伟达向微软等大型云服务商大量供应Blackwell GPU,每周部署约7.2万块,可能影响HPE服务器交付时间。HPE在全球服务器市场占13%份额。受美国出口限制影响,国际客户可能面临额外限制。新服务器将于2025年9月2日开始全球发货。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
安全专业协会ISACA面向全球近20万名认证安全专业人员推出AI安全管理高级认证(AAISM)。研究显示61%的安全专业人员担心生成式AI被威胁行为者利用。该认证涵盖AI治理与项目管理、风险管理、技术与控制三个领域,帮助网络安全专业人员掌握AI安全实施、政策制定和风险管控。申请者需持有CISM或CISSP认证。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。